Curl Proxy Checker - Cronjob Time-Out
Provider problemen ( Antagonist ondersteunt geen curl scripts die langer duren dan 8 minuten )
Gewijzigd op 16/04/2014 20:23:28 door Patrick B
Met timeout op 10 i.p.v. 3 had je toen nog enig verschil in de uiteindelijke stop/aantal proxy's ? Of maakt dat geen verschil.
Duurde langer dacht ik maar met het zelfde resultaat ( 150-200 scans )
Ik zal nu nog een scan laten lopen op 10s time out
Ik zal nu nog een scan laten lopen op 10s time out
Gewijzigd op 16/04/2014 16:53:07 door Patrick B
Hoe voer je de cronjob uit? Via wget of via een directe aanroep van het script op je server via php?
Vreemd, en heb je met iets anders al geprobeerd om het te checken? Als je dan op hetzelfde uitkomt..
Toevoeging op 16/04/2014 16:57:22:
Offtopic, cool proxy scraper?
Toevoeging op 16/04/2014 16:57:22:
Offtopic, cool proxy scraper?
- Aar - op 16/04/2014 16:53:36:
Hoe voer je de cronjob uit? Via wget of via een directe aanroep van het script op je server via php?
directe aanvraag op het script, via directadmin.
cd /home/gebruiker/domains/domein/public_html/scanner; /usr/local/bin/php -q index.php
Gewijzigd op 16/04/2014 17:01:48 door Patrick B
Wat is de reden dat je -q gebruikt?
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
TJVB tvb op 16/04/2014 18:01:29:
Wat is de reden dat je -q gebruikt?
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
En wat krijg je te zien als je het script zelf uitvoert (dus niet via cron)
Heb alle cronjob commands al geprobeert, ook zonder quiet mode.
Ik las op forums dat -q word aangeraden voor lange scripts.
Maar ook zonder -q het zelfde resultaat
Dit zie je in de browser, werkt prima, maar stopt dan ook na 5-10 minuten.

Gewijzigd op 16/04/2014 18:35:07 door Patrick B
doe eens na set time limit:
Toevoeging op 16/04/2014 18:39:40:
Daarnaast kan het aan de host liggen. Connectie open voor 10 min is wel lang..
Toevoeging op 16/04/2014 18:39:40:
Daarnaast kan het aan de host liggen. Connectie open voor 10 min is wel lang..
18:45 gestart
18:56 gestopt
131 proxies in scanned.txt
Hij heeft dus rond de 1500 proxies gescanned van de 8.000 :(
18:56 gestopt
131 proxies in scanned.txt
Hij heeft dus rond de 1500 proxies gescanned van de 8.000 :(
Als je php via cli gebruikt, is er geen time limit.
Ik heb zo verschillende scripts draaien die 24/7 door gaan om apparatuur aan te sturen.
While(1==1) {
// doe iets
}
Ik heb zo verschillende scripts draaien die 24/7 door gaan om apparatuur aan te sturen.
While(1==1) {
// doe iets
}
check je de errorfiles van apache en de logging van de crontab en de linux logging? Bij scripts als deze vraag ik mij altijd af waarom met php cli? Er zijn zoveel meer krachtiger en sneller methoden om dit te regelen. Het simpelste met linux/unix shell scripting.
Gewijzigd op 16/04/2014 19:29:01 door John D
Antagonist.nl heeft dus een time-out ingesteld op curl scripts ( langer dan 8 min ).
Willen ze niet wijzigen.. opzoek naar een andere provider dus, iemand tips ?
Willen ze niet wijzigen.. opzoek naar een andere provider dus, iemand tips ?
Gewijzigd op 16/04/2014 20:24:08 door Patrick B
@Joey, ik heb een grote ruimte, en ik kan uw script hosten.
kun je niet om de X connecties curl opnieuw starten? Zodat je onder die 8 minuten blijft.
Of via een python of perl scriptje een checker maken.
Bedankt voor de tips, jammer dat antagonist dit niet meld op hun website.
Ik heb mijn script aangepast en ondersteunt nu multithreading, 8k in 9 minuten.
Pepijn kan je mij een PM sturen met wat informatie ?
Ik heb mijn script aangepast en ondersteunt nu multithreading, 8k in 9 minuten.
Pepijn kan je mij een PM sturen met wat informatie ?
Of je stuurt een mailtje naar antagonist, dat je de timeout hoger wilt. Zullen ze vast wel toestaan. Desnoods bypass je het.




