Необычность; получить репозиторий github в домашний каталог пользователей

Цель

Цель состоит в том, чтобы создать контейнер сингулярности, который устанавливает некоторые пакеты, затем клонирует пользовательский пакет из репозитория git и создает его. Пользователю необходимо иметь разрешение на выполнение действий с пользовательским пакетом, и в идеале он должен находиться в домашнем каталоге пользователя сингулярности, но это кажется более сложным, чем я ожидал.

Сингулярность почти всегда будет запускаться как оболочка, она должна содержать группу проблемных пользовательских пакетов и генерировать результаты из них повторяемым и общим способом.

Проблема

Клонирование репозитория git выглядит нормально, но единственное место, где я могу его увидеть, — это /github_repo, и оно всегда принадлежит пользователю root.

Я не могу получить его в домашнем каталоге пользователя, потому что во время %post переменная $HOME, похоже, не указывает на домашний каталог пользователя, она указывает на /root, а созданные объекты принадлежат root. На самом деле, пока /home существует, он пуст, кажется, что пользователь еще не существует.

Я попытался клонировать /github_repo, а затем добавить

chown -R $USER /github_repo
chmod -R 766 /github_repo

к %post. Контейнер можно собрать и запустить, и когда он работает;

$ ls -lh /github_repo
ls: cannot access '/github_repo': Permission denied
total 0
d????????? ? ? ? ?           ? CorrectNameOfGithubFolder
-????????? ? ? ? ?           ? CorrectNameOfGithubFile

То есть он может видеть имена файлов и папок, но не их разрешения? Я даже не знал, что это возможно. Если я не буду возиться с разрешениями в %post, это совершенно нормальный файл, принадлежащий пользователю root.

Рецепт блюда

Это то, что у меня есть до сих пор, вы должны найти, что оно строится и работает. Если вы хотите запустить его, сохраните рецепт как example.def, затем выполните

sudo singularity build example.sif example.def
singularity run --containall example.sif

а потом попробуй

$ ls -lh /packages

пример.def


BootStrap: docker
From: ubuntu:18.04
    
# commands on the host system
%setup
    # make print colour #
    GREEN='\033[0;32m'
    NOCOLOUR='\033[0m'
    echo "${GREEN}~~~ Getting modified packages from github ~~~ ${NOCOLOUR}"
    export PACKAGES_TMP=/tmp/packages
    rm -fr $PACKAGES_TMP
    mkdir -p $PACKAGES_TMP
    git clone https://github.com/rootpy/rootpy-tutorials.git $PACKAGES_TMP
    cp -R ${PACKAGES_TMP} ${SINGULARITY_ROOTFS}

# get files from the host (but we dont need any)
%files

# what is done when the container is built
%post
    # make print colour #
    GREEN='\033[0;32m'
    NOCOLOUR='\033[0m'
    # start
    echo "${GREEN}~~~ install apt packages ~~~ ${NOCOLOUR}"
    apt -y update
    # for fetching from repos if needed
    apt -y install git
    # for getting anything else from the net
    apt -y install wget
    # text editors
    apt -y install vim-tiny
    apt -y install nano
    # for making downloaded packages
    apt -y install make

    echo "${GREEN}~~~ Set up a .bashrc ~~~ ${NOCOLOUR}"
    BASHRC=/home/.bashrc
    touch $BASHRC
    echo "alias vim=vim.tiny\n" >> $BASHRC
    # will be called in run

    ## Not working???
    ## the /home/ directory appears empty
    # echo "${GREEN}~~~ Move packages to home dir ~~~ ${NOCOLOUR}"
    MY_HOME=$(ls -l /home/)
    echo in post home is $MY_HOME
    touch ~/test
    touch $HOME/test
    mkdir $HOME/test_dir
    # PACKAGES=$MY_HOME/packages/
    # mv /packages $PACKAGES
    
    echo "${GREEN}~~~ Give the user permission and control ~~~ ${NOCOLOUR}"
    # this bit does odd things
    PACKAGES=/packages
    chown -R $USER $PACKAGES
    chmod -R 766 $PACKAGES

    echo "${GREEN}~~~ Making the packages ~~~ ${NOCOLOUR}"
    # need to implement


# enviroment variabels instide the container
# sourced at run time not build time
%environment
    export PACKAGES=/packages/
    export BASHRC=/home/.bashrc


# this is executed when the contain is launched with
# singularity run example.sif
%runscript
    MY_HOME=$(ls -l /home/)
    echo at run home is $MY_HOME
    touch ~/runtest1
    touch $HOME/runtest2
    mkdir $HOME/runtest_dir
    ls -lh /
    ls -lh $HOME
    ls -lh $HOME/runtest_dir/
    # source the .bashrc
    echo $BASHRC
    /bin/bash --rcfile $BASHRC
    

# this would be executed just after build
%test
    echo I havent written any tests

# metadata
%labels
    Author ClumsyCat
    Version v1.0

%help
    to build me
    > sudo singularity build example.sif example.def
    to run me do
    > singularity run --containall --bind /my/out/dir/ example.sif
        the "--containall" flag prevents interactions with your system
        the "--bind /my/out/dir/" mounts a directory in your system
        this allows scripts in that directory to be accessed from the image
        and results from the image to persist in the directory
        It also allows the run script to call .bashrc
3 метода стилизации элементов HTML
3 метода стилизации элементов HTML
Когда дело доходит до применения какого-либо стиля к нашему HTML, существует три подхода: встроенный, внутренний и внешний. Предпочтительным обычно...
Формы c голосовым вводом в React с помощью Speechly
Формы c голосовым вводом в React с помощью Speechly
Пытались ли вы когда-нибудь заполнить веб-форму в области электронной коммерции, которая требует много кликов и выбора? Вас попросят заполнить дату,...
Стилизация и валидация html-формы без использования JavaScript (только HTML/CSS)
Стилизация и валидация html-формы без использования JavaScript (только HTML/CSS)
Будучи разработчиком веб-приложений, легко впасть в заблуждение, считая, что приложение без JavaScript не имеет права на жизнь. Нам становится удобно...
Flatpickr: простой модуль календаря для вашего приложения на React
Flatpickr: простой модуль календаря для вашего приложения на React
Если вы ищете пакет для быстрой интеграции календаря с выбором даты в ваше приложения, то библиотека Flatpickr отлично справится с этой задачей....
В чем разница между Promise и Observable?
В чем разница между Promise и Observable?
Разберитесь в этом вопросе, и вы значительно повысите уровень своей компетенции.
Что такое cURL в PHP? Встроенные функции и пример GET запроса
Что такое cURL в PHP? Встроенные функции и пример GET запроса
Клиент для URL-адресов, cURL, позволяет взаимодействовать с множеством различных серверов по множеству различных протоколов с синтаксисом URL.
2
0
819
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Здесь происходит несколько вещей.

  1. Если вам не нужно что-то В самом деле в хост-системе, не используйте %setup. Он работает от имени пользователя root в операционной системе хоста, и его очень легко сломать так, как вы этого не ожидаете.
  2. По умолчанию сингулярность монтирует $HOME работающего пользователя в контейнер, поэтому все, что вы поместите в /home/..., будет перезаписано, если пользователь не использует --no-home. Лучшие практики рекомендует не устанавливать в $HOME по этой причине
  3. Все шаги в %post, когда вы ссылаетесь на $USER, устанавливают его как root, потому что это пользователь, когда он запускается (sudo singularity build ...), так что на самом деле он что-то делает
  4. chmod -R 664 - это ломает ваши каталоги. Вам нужен бит выполнения для фактического доступа к каталогу, а не только для чтения

Я изменил ваш образец файла определения, чтобы он работал лучше, чем вы предполагали. Комментарии объясняют, почему.

BootStrap: docker
From: ubuntu:18.04

%post
    # make print colour #
    GREEN='\033[0;32m'
    NOCOLOUR='\033[0m'
    PACKAGES=/packages

    # give all files 774 and directories 775 by default
    umask 002

    # start
    echo "${GREEN}~~~ install apt packages ~~~ ${NOCOLOUR}"
    # install everything at once and use apt-get for non-interactive installs
    apt-get -y update && apt-get install -y git wget vim-tiny nano make

    # create a symlink to vim instead of an alias
    ln -s $(which vim.tiny) /usr/local/bin/vim

    echo "${GREEN}~~~ Getting modified packages from github ~~~ ${NOCOLOUR}"
    # git clone in %post instead of %setup
    mkdir $PACKAGES
    cd $PACKAGES
    git clone https://github.com/rootpy/rootpy-tutorials.git

    echo "${GREEN}~~~ Making the packages ~~~ ${NOCOLOUR}"
    # need to implement
    echo do something here

%environment
    export PACKAGES=/packages

%runscript
    echo I am $(whoami)
    echo

    cd $PACKAGES
    echo I am in $PWD
    ls -la --color=auto
    echo

    echo vim is: $(which vim)

Бег singularity run --containall example.sif дает:

I am tsnowlan

I am in /packages
total 0
drwxrwxr-x 3 root     root      39 May 28 12:23 .
drwxr-xr-x 1 tsnowlan tsnowlan  60 May 28 12:24 ..
drwxrwxr-x 6 root     root     117 May 28 12:23 rootpy-tutorials

vim is: /usr/local/bin/vim

Это фантастика спасибо вам! Ваши пункты очень хорошо объяснены. Я бы просто добавил, что для того, чтобы пользователь мог работать с загруженным пакетом (создавать файлы и изменять файлы), по-видимому, требуется umask 000

Clumsy cat 29.05.2019 10:17

Это верно, но только если в ядре хоста включено наложение. Это, вероятно, относится к большинству людей, работающих на своих персональных компьютерах, но оверлей имеет некоторые проблемы со стабильностью и часто отключается на больших серверах (например, в средах HPC). Полезно всегда рассматривать контейнер как доступный только для чтения и монтировать в любые каталоги, где вы можете писать сколько душе угодно. Это может быть бесполезно для того, что вы делаете, и если вы знаете, что это будет работать только с ядрами с поддержкой оверлея, это, вероятно, нормально.

tsnowlan 29.05.2019 15:41

Другие вопросы по теме