217 Commits (788b25707d9aad1f76da1922f4a48927ce205875)
 

Autor SHA1 Nachricht Datum
  JustAnotherArchivist 788b25707d Handle more domains and case variations vor 3 Jahren
  JustAnotherArchivist 36aa2e8259 Add archivebot-log-extract-ignores vor 3 Jahren
  JustAnotherArchivist 5b731fbde1 Fix compatibility with wpull 2.x vor 3 Jahren
  JustAnotherArchivist 743e0582ba Fix confusing error message when lxml is not installed vor 3 Jahren
  JustAnotherArchivist 491a80a04b Add warc-tiny scrape command for parsing HTTP responses using wpull and extracting links vor 3 Jahren
  JustAnotherArchivist fd2728f1b8 Add archivebot-irccloud-paste vor 3 Jahren
  JustAnotherArchivist 4eff3c3eb3 Refactor, strip query/fragment vor 3 Jahren
  JustAnotherArchivist 821cacf626 Add --help vor 3 Jahren
  JustAnotherArchivist caffebab2e Add parent-urls vor 3 Jahren
  JustAnotherArchivist 77ec76bc04 Add --urls and --nodl options vor 3 Jahren
  JustAnotherArchivist 06cf71f73d Fix gofile.io download: getServer is not used by the website anymore, and getUpload no longer returns the MD5 vor 3 Jahren
  JustAnotherArchivist bff1490871 Add github-list-repos vor 3 Jahren
  JustAnotherArchivist bf695d63a3 Fix channel URLs vor 3 Jahren
  JustAnotherArchivist dde4464555 Cover two more rare URLs vor 3 Jahren
  JustAnotherArchivist bbf2d2c315 Be more lenient regarding slashes to catch things with collapsed URLs in paths etc. vor 3 Jahren
  JustAnotherArchivist 362f66eb26 Handle youtube-nocookie.com and fix removenonyt mode not recognising CC domains vor 3 Jahren
  JustAnotherArchivist 81e2b4b999 Refine patterns vor 3 Jahren
  JustAnotherArchivist 9974d4613c Stop trying to rewrite patterns for percent encoding vor 3 Jahren
  JustAnotherArchivist 0ee83bc0f2 Refactor vor 3 Jahren
  JustAnotherArchivist b66260ca94 Add youtube-extract vor 3 Jahren
  JustAnotherArchivist d82dff8b71 Add ETA column vor 3 Jahren
  JustAnotherArchivist 01274e461a Prevent constantly moving bytes around for better performance on large chunked records vor 3 Jahren
  JustAnotherArchivist 77d9f61de0 Colourise output vor 3 Jahren
  JustAnotherArchivist 6512669cfd Refactor and compare file list as well vor 3 Jahren
  JustAnotherArchivist 8e0cb30d0a Add atdash mode vor 3 Jahren
  JustAnotherArchivist 5fe595d71c Record wrapper script in meta WARC as well vor 3 Jahren
  JustAnotherArchivist c1def0e7a8 Fix S3_WITH_LIST_URLS being defined (but empty) when --with-list-urls is not used vor 3 Jahren
  JustAnotherArchivist 398cbfdcda Add s3-bucket-list-qwarc, rewritten s3-bucket-list on top of qwarc vor 3 Jahren
  JustAnotherArchivist 80084e0d35 Another alternative and performance/memory comparison vor 3 Jahren
  JustAnotherArchivist 6a288a6338 Use grep instead, which is faster but uses more memory vor 3 Jahren
  JustAnotherArchivist 4d274e64e0 Add dedupe vor 3 Jahren
  JustAnotherArchivist a4af8e6ca6 Add IE6 UA vor 3 Jahren
  JustAnotherArchivist ac277437a3 Add Googlebot UA vor 3 Jahren
  JustAnotherArchivist 0181e53f01 Treat NXDOMAIN and no A/AAAA record errors as ok vor 3 Jahren
  JustAnotherArchivist 41c2a9d2d4 Add support for alternative xmlns vor 3 Jahren
  JustAnotherArchivist 830e9dbc43 Treat redirects as successful retrievals vor 3 Jahren
  JustAnotherArchivist 7a999c9b0a Ignore redirects vor 3 Jahren
  JustAnotherArchivist 579d589853 Add a script to extract errors from wpull 2.x logs vor 3 Jahren
  JustAnotherArchivist d60948e90f Verbosity vor 3 Jahren
  JustAnotherArchivist a9a4792854 Fix server validation vor 3 Jahren
  JustAnotherArchivist 57e2e26d80 Support multi-file uploads vor 3 Jahren
  JustAnotherArchivist 02c967f608 Add gofile.io download script vor 3 Jahren
  JustAnotherArchivist a83d28d08e Add WARC/1.1 support vor 3 Jahren
  JustAnotherArchivist ba2f7db380 Merge warc-peek repository into little-things vor 3 Jahren
  JustAnotherArchivist 79fc113467 Merge kill-wpull-connections repository into little-things vor 3 Jahren
  JustAnotherArchivist b4bb9babac Switch to HTTPS vor 3 Jahren
  JustAnotherArchivist 9f3c7b3ca8 Support negative filter values for date columns as relative to the current datetime vor 3 Jahren
  JustAnotherArchivist c7151efc3e Add script for checking whether a file on transfer.notkiska.pw was archived correctly with AB vor 3 Jahren
  JustAnotherArchivist 4c90bacaed Shield values in colons with angled brackets vor 3 Jahren
  JustAnotherArchivist f51adccd3f Add --meta mode for dump-responses which prefixes each line with information about the file and record vor 3 Jahren