229 Commits (e3b77bf322b7560a319569f20c4c012d0d5fc637)
 

Autor SHA1 Mensaje Fecha
  JustAnotherArchivist e5e7bdf8af Add more filtering options hace 4 años
  JustAnotherArchivist c611420be9 Remove options from usage line hace 4 años
  JustAnotherArchivist 824eb5e353 Add script for getting an AB job overview table hace 4 años
  JustAnotherArchivist 34c1a58034 Fix detection of multiple transfer encodings hace 4 años
  JustAnotherArchivist 195df08cd5 Fix marker loop on some filenames due to lacking HTML entity processing hace 4 años
  JustAnotherArchivist 3cc3a1ed38 Fix nested tags hace 4 años
  JustAnotherArchivist 5c907488e1 Handle broken pipe on stdout hace 4 años
  JustAnotherArchivist b38349e91f Fix duplicate slashes hace 4 años
  JustAnotherArchivist f23e4cc71e Retry on internal errors hace 4 años
  JustAnotherArchivist bfe5f59e25 Add marker loop detection hace 4 años
  JustAnotherArchivist 66bdef3247 Take a bucket URL argument instead of hostname + bucketname hace 4 años
  JustAnotherArchivist e385c1d302 Limit curl to 10 seconds hace 4 años
  JustAnotherArchivist 74162445aa Replace curl-archivebot-ua with a more general curl-ua script that supports different UAs selected by aliases hace 4 años
  JustAnotherArchivist 9d712d64d7 Ignore certain URLs on Twitter and Instagram entirely hace 4 años
  JustAnotherArchivist 87826d4844 Use line variable instead of prefix+url hace 4 años
  JustAnotherArchivist 163aacf13c Print deletion URL on stderr hace 4 años
  JustAnotherArchivist 486a593f15 Add support for more weird Facebook URLs hace 4 años
  JustAnotherArchivist 256a94443e Fix deduplication within each section processing hace 4 años
  JustAnotherArchivist 98d77ecc96 Deduplicate output hace 4 años
  JustAnotherArchivist 6ce64baf87 Remove redundant url-normalise after the extraction hace 4 años
  JustAnotherArchivist 318183148e Fix URL extraction from Facebook profile overview pages hace 4 años
  JustAnotherArchivist 869ade27eb Separate names in stderr annotations for the various url-normalise processes hace 4 años
  JustAnotherArchivist 79f0bd4332 Normalise URLs everywhere to reduce duplicates hace 4 años
  JustAnotherArchivist dc4efcfbfb One URL normalisation script to rule them all hace 4 años
  JustAnotherArchivist 0f13a1fadd Add verbosity options, and annotate stderr on wiki-recursive-extract hace 4 años
  JustAnotherArchivist 3ec816cd04 Add script for link extraction from social media profiles hace 4 años
  JustAnotherArchivist 5285c406d9 Add script for recursive website and social media discovery hace 4 años
  JustAnotherArchivist 2be9ca922e Ignore more useless Facebook links hace 4 años
  JustAnotherArchivist c3b0e5543e Add support for facebook.com/pg/something hace 4 años
  JustAnotherArchivist 7c389f1fef Add support for hashbang fragments on Twitter links hace 4 años
  JustAnotherArchivist c56736bc4a Ignore /intent on Twitter hace 4 años
  JustAnotherArchivist 4f34753788 Add support for Instagram posts and ignore spurious links from the CDN hace 4 años
  JustAnotherArchivist ad030f5d21 Add support for Facebook pages and groups hace 4 años
  JustAnotherArchivist cd0b3f6214 Ignore /vi/* on YouTube (video thumbnails) hace 4 años
  JustAnotherArchivist 6f1cca73ad Support hashtags hace 4 años
  JustAnotherArchivist c61efa03f0 Make social media normalisation script snscrape-independent hace 4 años
  JustAnotherArchivist e6008eb971 Add script for automatic social media discovery hace 4 años
  JustAnotherArchivist fed66542fa Support python3 in any directory instead of just /usr/bin hace 4 años
  JustAnotherArchivist 8f3c3bfdcd Add readme and licence hace 4 años
  JustAnotherArchivist 5982e131a4 Stop gracefully when encountering a SIGPIPE hace 4 años
  JustAnotherArchivist c13a1150df Add support for WARC/1.1 hace 4 años
  JustAnotherArchivist 376cde7b8c Fix broken block digest calculation on malformed HTTP responses hace 4 años
  JustAnotherArchivist b121cbd958 Write all log messages to stderr hace 4 años
  JustAnotherArchivist ed1270d988 Add support for upper-cased chunk lengths hace 4 años
  JustAnotherArchivist d4826abde2 Add record ID to log messages hace 4 años
  JustAnotherArchivist 4925a912c0 Add youtube-filter-autogen-channels hace 4 años
  JustAnotherArchivist 9b8f223776 Add wiki-sections-sort hace 4 años
  JustAnotherArchivist 552a4147c2 Fix not returning complete body for non-chunked responses hace 4 años
  JustAnotherArchivist 0dc0de6b50 Add support for lists hace 4 años
  JustAnotherArchivist 9d344df8c6 +x hace 4 años