[CSharp.net] Webseite scrapen, parallele requests wirksam?

Christoph Wille csharp.net@glengamoi.com
Wed, 05 Oct 2005 08:28:13 -0700


http://chrison.net/BrowsingSfnetsSoftwareMap.aspx

Chris

At 07:06 AM 10/5/2005, you wrote:
>Hallo Freunde
>
>Ich habe ein Programm, das muss von einer Anzahl HTML Seiten alle Bilder
>downloaden und speichern. Das Funktioniert.
>
>Damit die Anwendung während des scrappens nicht einfach "tod" ist, habe=
 ich
>nachgelesen wie ich das über Threading machen könnte, dass man ein
>Stop-Button hat. Dieser soll den scrap-prozess (loop über alle HTML=
 Seiten
>und deren Bilddateien) anhalten können. Ich denke das werde ich hinkrigen
>irgendwie.
>
>Da ich mich aber schon mit Threading befasse frage ich mich, ob allenfalls
>der Prozess zum downloaden der Bilddaten auch parallelisiert werden kann?
>Würde das etwas nützen um schneller alle Daten heruntergeladen zu=
 haben?
>
>Anders herum gefragt: was ist Geschwindigkeitslimitierend? Der Webserver,
>die Internetverbindung?
>
><<<
>WebResponse response = request.GetResponse();
>StreamReader reader = new StreamReader(response.GetResponseStream());
>FileStream pdffs = new FileStream(@"D:\testdatei.pdf", FileMode.Create,
>FileAccess.ReadWrite);
>pdffs.Close();
> >>>
>
>Vielen Dank für Hinweise
>Patrik