Je crains qu'il n'y ait pas de réponse simple à votre question. Il existe de nombreux types de connexions, et pour chaque paire client-serveur, la réponse sera différente, en fonction de la latence, de la bande passante, de la qualité de la connexion, de la fréquence des déconnexions, et même de choses plus complexes, puisque dans certaines situations, il peut y avoir une limite au nombre de connexions parallèles, à la taille maximale transférée en une seule requête, etc. Si vous n'êtes intéressé que par un certain type de scénarios, comme une connexion rapide et de qualité à un serveur proche, je dirais que la valeur que vous choisissez n'a pas beaucoup d'importance puisque l'overhead de la connexion est généralement inférieur à un dixième de seconde.
Cela dépend également de ce que vous faites de la réponse ; si vous la chargez en mémoire, tenez compte du fait que vous allez consommer la mémoire d'un ordinateur que vous ne connaissez pas, et supposer que personne ne s'opposera à une consommation supplémentaire de 16 Mo pour un segment est une hypothèse importante.