JustAnotherArchivist
/
qwarc
1
0
Fork 0
Código Incidencias 0 Pull Requests 0 Lanzamientos 13 Wiki Actividad
4 Commits
3 Ramas
484 KiB
Árbol: v0.2.1
Ramas Etiquetas
${ item.name }
Crear rama ${ searchTerm }
desde 'v0.2.1'
${ noResults }
Gráfico de commits

4 Commits (v0.2.1)
 

Autor SHA1 Mensaje Fecha
  JustAnotherArchivist 93df9cd18d Get rid of the temporary extra log file and read the plain file instead hace 4 años
  JustAnotherArchivist 08c3d55376 Add comment on block digest workaround (cf. f14a664b) hace 4 años
  JustAnotherArchivist 413435b7fb Work around warcio not writing the correct WARC-Profile header for revisit records on WARC/1.1 hace 4 años
  JustAnotherArchivist 08d96b37c5 Support deep/multiple inheritance from Item hace 4 años
  JustAnotherArchivist 9d8de13775 Add Item.flush_subitems to flush the new subitems to the database while the item is still being processed hace 4 años
  JustAnotherArchivist 50b936b18c Refactor QWARC class to keep relevant variables in instance attributes instead of local variables hace 4 años
  JustAnotherArchivist c5d8d93166 Remove stray whitespace hace 4 años
  JustAnotherArchivist 8ee9b20718 Remove WARC-Target-URI header from warcinfo record hace 4 años
  JustAnotherArchivist f14a664b1c Work around warcio not writing a block digest for warcinfo records (https://github.com/webrecorder/warcio/issues/87) hace 4 años
  JustAnotherArchivist 7d53577522 Add parameter for disabling SSL/TLS certificate validation hace 4 años
  JustAnotherArchivist 7e049423a4 The memory leak has vanished as of CPython 3.7.3 hace 4 años
  JustAnotherArchivist bd14ab3901 Fix crash due to closing the log handler on reaching the max WARC size hace 4 años
  JustAnotherArchivist 08117630b0 Remove warcinfo record in each data WARC and refer to the process's warcinfo record in the meta WARC instead hace 4 años
  JustAnotherArchivist 26aab15605 urn:X-qwarc instead of urn:qwarc hace 4 años
  JustAnotherArchivist 50d46ad51c Use log filename in the target URI of the log resource record hace 4 años
  JustAnotherArchivist e093211496 Set content type for resource records hace 4 años
  JustAnotherArchivist ae46b53401 Always write a WARC-Warcinfo-ID header hace 4 años
  JustAnotherArchivist 23fcdd4026 Write microsecond dates for request and response records hace 4 años
  JustAnotherArchivist 3030ad10ab Mark private API accordingly hace 4 años
  JustAnotherArchivist e0b4104d21 Remove log handler before writing log record since that requires closing the stream hace 4 años
  JustAnotherArchivist 6cfd352f68 Write WARC/1.1 files hace 4 años
  JustAnotherArchivist e1ad5c232e Write warcinfo and resource records in meta WARC on firing up qwarc rather than at the end hace 4 años
  JustAnotherArchivist f038cf91db Fix unfound distribution handling hace 4 años
  JustAnotherArchivist a5dfd5c805 Write spec file + its dependencies and command line to meta WARC hace 4 años
  JustAnotherArchivist e99e2304c9 Write meta WARC with log file hace 4 años
  JustAnotherArchivist d751844626 Fix starting another item before stopping on STOP file or memory limit exceedance hace 4 años
  JustAnotherArchivist 2b0778f9b5 Remove leftovers from initial code rewrite hace 4 años
  JustAnotherArchivist 85d78cee13 Add warcinfo record with version information on Python, system, and dependencies hace 4 años
  JustAnotherArchivist 9eaa7be4c8 Python 3.7 compatibility hace 4 años
  JustAnotherArchivist 9cff6bd5c1 Only open a WARC file when necessary to avoid producing empty WARCs at the end hace 4 años
  JustAnotherArchivist 21cf784102 Use setuptools_scm for versioning hace 4 años
  JustAnotherArchivist ab22966fef Add to log which item a message is coming from hace 4 años
  JustAnotherArchivist 6fafd32685 Error when the retries are exceeded hace 4 años
  JustAnotherArchivist 8647d6b396 Use f-strings instead of str.format hace 4 años
  JustAnotherArchivist 5008e6e8cd Deduplicate items hace 4 años
  JustAnotherArchivist 46c95e2157 Disable decoding the response content hace 4 años
  JustAnotherArchivist 91cd20f567 Version 0.1.3 hace 5 años
  JustAnotherArchivist 85f6f7bd82 Make qwarc.utils.handle_response_limit_error_retries more useful by passing the deferring handler as an argument hace 5 años
  JustAnotherArchivist ad22a2327a Support adding headers to individual requests hace 5 años
  JustAnotherArchivist 67076f964c Add support for POST requests hace 5 años
  JustAnotherArchivist 57764eb2b0 Version 0.1.2 hace 5 años
  JustAnotherArchivist 2d52e78d85 Fix reference to aiohttp.CientError hace 5 años
  JustAnotherArchivist 0f107e988d Version 0.1.1 hace 5 años
  JustAnotherArchivist c1574a06c9 Fix sleep task type hace 5 años
  JustAnotherArchivist e0ca88c807 Fix reference to get_rss hace 5 años
  JustAnotherArchivist 984d28ede0 Fix type of --memorylimit, --disklimit, and --warcsplit values hace 5 años
  JustAnotherArchivist 8a8935810d Fix references to memory and disk space check methods hace 5 años
  JustAnotherArchivist 1c8983fc1e Version 0.1.0 hace 5 años
  JustAnotherArchivist be5673cfbf Add record deduplication within a process hace 5 años
  JustAnotherArchivist 43f1b5e06e Add LICENSE and README hace 5 años