Wessen Verantwortung ist es, Web-Anfragen zu drosseln?

Question

Ich arbeite an einer Klassenbibliothek, die Informationen von einer Website eines Drittanbieters abruft. Die Website, auf die zugegriffen wird, reagiert nicht mehr, wenn innerhalb eines festgelegten Zeitraums (~ 0,5 Sekunden) zu viele Anfragen gestellt werden.

Die öffentlichen Methoden meiner Bibliothek beziehen sich direkt auf eine Ressource eine Datei auf dem Webserver. Mit anderen Worten, jedes Mal, wenn eine Methode aufgerufen wird, wird eine HttpWebRequest erstellt und an den Server gesendet. Wenn alles gut geht, wird eine XML-Datei an den Aufrufer zurückgegeben. Wenn dies jedoch die zweite Webanforderung in weniger als 0,5 Sekunden ist, wird die Anforderung Timeout.

Mein Dilemma liegt darin, wie ich Anfrage Throttling behandeln sollte (wenn überhaupt). Natürlich möchte ich nicht, dass der Anrufer herumsitzt und auf eine Antwort wartet - vor allem, wenn ich absolut sicher bin, dass die Anfrage eine Zeitüberschreitung hat.

Wäre es sinnvoller, wenn meine Bibliothek die Webanforderungen, die ich erstelle, in Warteschlangen stellt und drosselt, oder sollte meine Bibliothek einfach eine Ausnahme auslösen, wenn der Client nicht lange genug zwischen API-Aufrufen wartet?

Answer 1

Das Konzept einer Bibliothek ist es, seinen Client-Code so wenig wie möglich zu kümmern. Daher würde ich es dem Bibliotheksjob ermöglichen, Anfragen zeitnah einzureichen und Ergebnisse zurückzugeben. In einer idealen Welt würden Sie ein Rückruf- oder Delegiertenmodell verwenden, damit der Clientcode asynchron arbeiten und die Benutzeroberfläche nicht blockieren kann. Sie können auch die Option zum Überspringen der Warteschlange anbieten (und fehlschlagen, wenn sie zu früh ausgeführt wird) und möglicherweise sogar Prioritäten innerhalb des Warteschlangenmodells anbieten.

Ich glaube auch, dass es in der Verantwortung des Bibliotheksautors liegt, ein guter Bürger zu sein, und dass die Standardoperation der Bibliothek den Bedingungen des Datenanbieters entspricht.

Answer 2

Das ist die Verantwortung des Webservers, imo. Da die kritische Last von der Hardware, der Netzwerkbandbreite usw. abhängt, die sich außerhalb der Kontrolle Ihrer Anwendung befinden, sollte sie sich nicht damit befassen, den Deal damit zu versuchen. IIS kann den Datenverkehr basierend auf verschiedenen Konfigurationsoptionen drosseln.

Answer 3

Ich würde beides sagen - Sie haben es mit zwei unabhängigen Systemen zu tun und beide sollten Maßnahmen ergreifen, um sich vor übermäßiger Belastung zu schützen. Der Web-Server sollte eingehende Verbindungen ablehnen, und die Client-Bibliothek sollte Maßnahmen ergreifen, um die Anforderungen zu reduzieren, die sie an einen langsamen oder nicht reagierenden externen Dienst stellt. Ein übliches Muster, um dies auf dem Client zu handhaben, ist ein "Leistungsschalter", der Anrufe zu einem externen Dienst umschließt und für eine bestimmte Zeit nach einem Fehler schnell ausfällt.

Answer 4

Was für ein Client ist das? Ist dies ein interaktiver Client, zB für eine GUI-basierte App?

In diesem Fall können Sie dies einem Webbrowser-Szenario gleichsetzen und die Zeitüberschreitung für den Aufrufer freigeben. Wenn Sie sicher sind, dass dieser Webserver Anforderungen drosselt, können Sie dem Client mitteilen, dass er einen bestimmten Zeitraum warten muss, bevor er es erneut versucht. Auf diese Weise wird der Client nicht wiederholt Anfragen erneut ausgeben und weiß, wenn die erste Zeitüberschreitung auftritt, dass es nicht sinnvoll ist, Anforderungen zu schnell auszugeben.