Переглянути джерело

Fix deduplication within each section processing

master
JustAnotherArchivist 4 роки тому
джерело
коміт
256a94443e
1 змінених файлів з 5 додано та 0 видалено
  1. +5
    -0
      wiki-recursive-extract-normalise

+ 5
- 0
wiki-recursive-extract-normalise Переглянути файл

@@ -51,6 +51,11 @@ do
url="${url%% | *}"
fi

if [[ "${sectionUrls[${url}]}" ]]
then
# Processed already, skip
continue
fi
sectionUrls["${url}"]=1
toProcess=("${url}")
while [[ ${#toProcess[@]} -gt 0 ]]


Завантаження…
Відмінити
Зберегти