Создание zip-архива на основе количества файлов

SunOS 5.8

Структура каталогов

/ TEST / CHM

CHM
   A
     file1.txt
     file2.txt
   B
     file3.txt
   C
     file4.txt
     file5.txt
     file6.txt

Если в родительском каталоге CHM меньше 8 файлов / подкаталогов, заархивируйте его обычным образом. Если родительский каталог CHM имеет 8 или более файлов / подкаталогов, создайте zip-архив для всех 5 файлов. Это только для тестирования. В производстве будет 10000 файлов, а не 5. В родительском каталоге CHM может быть от 0 до n подкаталогов.

#!/bin/bash
set -e

cd $subdir/

# vars
num=8  # set 10000 in production

for dir in $subdir
do
    dir=${dir%*/}

    # testing code only
          if [[ ${dir##*/} = "CHM" ]]
          then
                numfile=$(ls * | wc -l)
          fi

          if [ "$numfile" -lt "$num" ]
          then
               zip -r -6 ${dir##*/}.zip .
          else
               ls * > files
               split -l 5 - files < files
               for i in files[a-z][a-z]; do
                   zip -6 "$i.zip" -@ < "$i"
               done
          fi
    # end test
done
exit


   zip warning: name not matched: A:
   zip warning: name not matched: file1.txt
   zip warning: name not matched: file2.txt
   zip warning: name not matched: B:

zip error: Nothing to do! (filesaa.zip)

Другая часть второго оператора if не работает, и я не уверен, почему. Я хочу создать:

CHM.zip master
CHM.001.zip
CHM.002.zip
CHM.003.zip

Чтобы я мог распаковать в том же порядке на удаленном сервере.

0
23.06.2016, 00:05
2 ответа

Я не совсем уверен, что полностью следовал вашим правилам, но может быть проще использовать стандартные утилиты (и упростить правила, что и когда создавать):

find . -type f | split -d -a3 -l $num --filter='zip -@ $FILE.zip' - "$pfx".

find довольно очевиден, настройте параметры по своему вкусу. Вы можете отсортировать список перед передачей его вывода в split .

split :

  • - d - использовать нумерацию вместо буквенных суффиксов
  • -a3 - длина суффикса (нумерация) 3 разряда (в данном случае цифры)
  • - l - количество строк, после которого увеличивается счетчик
  • - filter = COMMAND - передавать строки в команду вместо записи в файл
  • КОМАНДА - $ FILE интерпретируется split как имя файла, которое обычно используется для записи, что означает, что оно должно быть заключено в одинарные кавычки (или с обратной косой чертой, чтобы предотвратить интерпретацию оболочкой, выполняющей указанную выше командную строку)
  • - - явно требовать синтаксического анализа стандартного ввода
  • «$ pfx». предпочтительный префикс. Точка введена намеренно, split не добавляет ее автоматически.
0
28.01.2020, 04:50

У меня есть решение, работающее на Sun Solaris. Это позволит заархивировать 10000 файлов на каждый составной zip-архив и передать главный zip-архив на удаленный сервер.

#!/usr/bin/env bash
#
#------------------------------------------------------------
#-- Zip up content files based on $1 parameter
#------------------------------------------------------------
function zip_files {
   SRC="/ads/data02/CTS/Data/$1"
   #-- destination folder
   DST="/ads/acct/oracle/CTS"
   #-- amount of files that should go in each zip file
   FILES_PER_ZIP=10000

#-----------------------------------------------------------

  FILES="/tmp/multizip.$$"
  ZIP_PREFIX=$(basename $SRC)

#-- generate the list of the files to zip
  find $SRC > $FILES

#-- zip the files
  NUM=0
  ZIP_NUM=1
  printf -v ZIPFILE "$DST/$ZIP_PREFIX%03d" $ZIP_NUM
  while read -r line; do
    echo $line | sed -e 's/.*/"&"/' | xargs zip -6 $ZIPFILE
    ((NUM++))
    if [ $NUM -eq $FILES_PER_ZIP ]; then
       NUM=0
       ((ZIP_NUM++))
       printf -v ZIPFILE "$ZIP_PREFIX%03d" $ZIP_NUM
    fi
done < $FILES

#-- generate master zip file
/usr/bin/ls $DST/${ZIP_PREFIX}*.zip | xargs zip $DST/$ZIP_PREFIX

#-- perform cleanup

   function finish {
     /usr/bin/rm $FILES
     /usr/bin/rm /ads/acct/oracle/CTS/${ZIP_PREFIX}[0-9][0-9][0-9].zip
   }

   trap finish EXIT
}


#------------------------------------------------------------
#-- Main processing
#------------------------------------------------------------

for dir in /ads/data02/CTS/Data/*/
do
    d=$(basename $dir)
    zip_files $d
    scp "/ads/acct/oracle/CTS/${d}.zip" user1@10.10.20.25:/var/www/html/CTS/Content/A/TMP
    /usr/bin/rm -f "/ads/acct/oracle/CTS/${d}.zip"
done
exit
0
28.01.2020, 04:50

Теги

Похожие вопросы