Прежде всего, в конце вашего Dockerfile есть опечатка, но я думаю, что это произошло из-за копирования и вставки.
Тем не менее, я начал сборку, установив сначала rake. Таким образом, ваша последняя команда Docker должна быть:
RUN gem install bundler && \
gem install rake && \
wget -c https://github.com/wurmlab/sequenceserver/archive/1.1.0.beta12.tar.gz && \
tar xfvz 1.1.0.beta12.tar.gz && \
cd sequenceserver-1.1.0.beta12 && \
npm install && \
bundle install