vault backup: 2025-08-09 22:56:15
This commit is contained in:
Andrey Epifancev
299
💡 Идеи/💡 Проекты/Second Mind Pipeline/Backup стратегия.md
Normal file
299
💡 Идеи/💡 Проекты/Second Mind Pipeline/Backup стратегия.md
Normal file
@@ -0,0 +1,299 @@
|
||||
---
|
||||
created: 2024-12-19
|
||||
updated: 2024-12-19
|
||||
tags:
|
||||
- backup
|
||||
- безопасность
|
||||
- катастрофоустойчивость
|
||||
- автоматизация
|
||||
parent: "[[Second Mind Pipeline/index|Second Mind Pipeline]]"
|
||||
status: "планирование"
|
||||
priority: "высокий"
|
||||
---
|
||||
|
||||
# 💾 Backup стратегия Second Mind Pipeline
|
||||
|
||||
## 🎯 Цели резервного копирования
|
||||
|
||||
### Защита от потерь
|
||||
- **Данные**: Git репозитории, заметки, конфигурации
|
||||
- **Конфигурации**: Docker Compose, Nginx, Quartz настройки
|
||||
- **Состояние**: базы данных, пользовательские настройки
|
||||
- **Секреты**: SSH ключи, пароли, токены
|
||||
|
||||
### Требования восстановления
|
||||
- **RTO** (Recovery Time Objective): <4 часа
|
||||
- **RPO** (Recovery Point Objective): <1 час
|
||||
- **Тестирование**: ежемесячно
|
||||
- **Документация**: пошаговые инструкции
|
||||
|
||||
## 📊 Анализ критичности данных
|
||||
|
||||
### Критический уровень (Tier 1)
|
||||
- **Git репозитории** - основные данные заметок
|
||||
- **SSH ключи** - доступ к системе
|
||||
- **Базы данных** - метаданные Gitea
|
||||
- **Конфигурации Docker** - настройки сервисов
|
||||
|
||||
### Важный уровень (Tier 2)
|
||||
- **Собранные сайты** - можно пересобрать
|
||||
- **Логи системы** - для анализа проблем
|
||||
- **Кеши Nginx** - для оптимизации
|
||||
|
||||
### Вспомогательный уровень (Tier 3)
|
||||
- **Временные файлы** - можно пересоздать
|
||||
- **Docker образы** - скачиваются заново
|
||||
|
||||
## 🔄 Стратегия резервного копирования
|
||||
|
||||
### 3-2-1 Правило
|
||||
- **3 копии данных** (оригинал + 2 backup)
|
||||
- **2 разных типа носителей** (локальный + облако)
|
||||
- **1 offsite копия** (удаленное хранение)
|
||||
|
||||
### Типы backup'ов
|
||||
```mermaid
|
||||
graph TB
|
||||
A[Ежедневные инкрементальные] --> B[Еженедельные полные]
|
||||
B --> C[Ежемесячные архивные]
|
||||
C --> D[Квартальные долгосрочные]
|
||||
|
||||
A --> E[Локальное хранение]
|
||||
B --> F[Cloud Storage]
|
||||
C --> G[External Drive]
|
||||
D --> H[Offsite Archive]
|
||||
```
|
||||
|
||||
## 🔧 Техническая реализация
|
||||
|
||||
### 1. Автоматизация через Cron
|
||||
```bash
|
||||
# /etc/crontab - расписание backup'ов
|
||||
# Ежедневно в 2:00 - инкрементальный backup
|
||||
0 2 * * * root /opt/scripts/backup-daily.sh
|
||||
|
||||
# Еженедельно в воскресенье в 3:00 - полный backup
|
||||
0 3 * * 0 root /opt/scripts/backup-weekly.sh
|
||||
|
||||
# Ежемесячно 1 числа в 4:00 - архивный backup
|
||||
0 4 1 * * root /opt/scripts/backup-monthly.sh
|
||||
```
|
||||
|
||||
### 2. Backup скрипты
|
||||
|
||||
#### backup-daily.sh (инкрементальный)
|
||||
```bash
|
||||
#!/bin/bash
|
||||
set -e
|
||||
|
||||
BACKUP_DIR="/backups/daily"
|
||||
DATE=$(date +%Y%m%d)
|
||||
LOG_FILE="/var/log/backup-daily.log"
|
||||
|
||||
echo "[$(date)] Starting daily backup" >> $LOG_FILE
|
||||
|
||||
# Git репозитории
|
||||
rsync -av --link-dest=/backups/daily/latest \
|
||||
/DOCKER/second-mind/obsidian_repo/ \
|
||||
$BACKUP_DIR/$DATE/git-repo/ >> $LOG_FILE 2>&1
|
||||
|
||||
# Конфигурации Docker
|
||||
rsync -av --link-dest=/backups/daily/latest \
|
||||
/DOCKER/second-mind/ \
|
||||
$BACKUP_DIR/$DATE/docker-config/ >> $LOG_FILE 2>&1
|
||||
|
||||
# База данных Gitea
|
||||
docker exec second_mind_db pg_dump -U gitea gitea > \
|
||||
$BACKUP_DIR/$DATE/gitea-db.sql
|
||||
|
||||
# Обновление ссылки latest
|
||||
rm -f $BACKUP_DIR/latest
|
||||
ln -s $DATE $BACKUP_DIR/latest
|
||||
|
||||
echo "[$(date)] Daily backup completed" >> $LOG_FILE
|
||||
```
|
||||
|
||||
#### backup-weekly.sh (полный)
|
||||
```bash
|
||||
#!/bin/bash
|
||||
set -e
|
||||
|
||||
BACKUP_DIR="/backups/weekly"
|
||||
DATE=$(date +%Y%m%d)
|
||||
CLOUD_BUCKET="s3://second-mind-backups"
|
||||
|
||||
# Создание полного архива
|
||||
tar -czf $BACKUP_DIR/second-mind-$DATE.tar.gz \
|
||||
/DOCKER/second-mind/ \
|
||||
/backups/daily/latest/
|
||||
|
||||
# Загрузка в облако
|
||||
aws s3 cp $BACKUP_DIR/second-mind-$DATE.tar.gz \
|
||||
$CLOUD_BUCKET/weekly/
|
||||
|
||||
# Очистка старых backup'ов (старше 8 недель)
|
||||
find $BACKUP_DIR -name "*.tar.gz" -mtime +56 -delete
|
||||
```
|
||||
|
||||
### 3. Cloud Storage интеграция
|
||||
|
||||
#### AWS S3 конфигурация
|
||||
```bash
|
||||
# ~/.aws/config
|
||||
[default]
|
||||
region = eu-west-1
|
||||
output = json
|
||||
|
||||
# ~/.aws/credentials
|
||||
[default]
|
||||
aws_access_key_id = YOUR_ACCESS_KEY
|
||||
aws_secret_access_key = YOUR_SECRET_KEY
|
||||
```
|
||||
|
||||
#### Rclone для альтернативных облаков
|
||||
```bash
|
||||
# Настройка rclone для Yandex.Disk/Google Drive
|
||||
rclone config
|
||||
|
||||
# Синхронизация с облаком
|
||||
rclone sync /backups/weekly/ yandex:SecondMind/backups/
|
||||
```
|
||||
|
||||
## 📱 Мониторинг backup'ов
|
||||
|
||||
### Health checks
|
||||
```bash
|
||||
#!/bin/bash
|
||||
# backup-monitor.sh
|
||||
|
||||
LAST_BACKUP=$(ls -t /backups/daily/ | head -1)
|
||||
BACKUP_AGE=$((($(date +%s) - $(date -d $LAST_BACKUP +%s)) / 3600))
|
||||
|
||||
if [ $BACKUP_AGE -gt 25 ]; then
|
||||
# Отправка алерта в Telegram
|
||||
curl -X POST "https://api.telegram.org/bot$BOT_TOKEN/sendMessage" \
|
||||
-d chat_id=$CHAT_ID \
|
||||
-d text="🚨 Backup устарел! Последний backup: $LAST_BACKUP"
|
||||
fi
|
||||
```
|
||||
|
||||
### Размер backup'ов
|
||||
```bash
|
||||
# Мониторинг размера backup'ов
|
||||
du -sh /backups/daily/latest/ | awk '{print "📊 Размер daily backup: " $1}'
|
||||
du -sh /backups/weekly/ | awk '{print "📊 Размер weekly backups: " $1}'
|
||||
```
|
||||
|
||||
## 🔒 Безопасность backup'ов
|
||||
|
||||
### Шифрование
|
||||
```bash
|
||||
# Шифрование backup'а перед отправкой в облако
|
||||
gpg --cipher-algo AES256 --compress-algo 2 --symmetric \
|
||||
--output backup-encrypted.tar.gz.gpg backup.tar.gz
|
||||
|
||||
# Расшифрование
|
||||
gpg --decrypt backup-encrypted.tar.gz.gpg > backup.tar.gz
|
||||
```
|
||||
|
||||
### Ротация паролей
|
||||
- Ежемесячная смена ключей шифрования
|
||||
- Разные ключи для разных типов backup'ов
|
||||
- Хранение ключей в отдельном защищенном хранилище
|
||||
|
||||
## 🚨 Процедуры восстановления
|
||||
|
||||
### Сценарий 1: Восстановление отдельного сервиса
|
||||
```bash
|
||||
# Остановка поврежденного контейнера
|
||||
docker-compose stop gitea
|
||||
|
||||
# Восстановление данных
|
||||
rsync -av /backups/daily/latest/docker-config/ /DOCKER/second-mind/
|
||||
|
||||
# Запуск сервиса
|
||||
docker-compose up -d gitea
|
||||
```
|
||||
|
||||
### Сценарий 2: Полное восстановление системы
|
||||
```bash
|
||||
# 1. Установка Docker на новом сервере
|
||||
curl -fsSL https://get.docker.com -o get-docker.sh
|
||||
sh get-docker.sh
|
||||
|
||||
# 2. Восстановление конфигураций
|
||||
tar -xzf second-mind-backup.tar.gz -C /
|
||||
|
||||
# 3. Восстановление данных
|
||||
docker-compose up -d db
|
||||
docker exec -i second_mind_db psql -U gitea gitea < gitea-db.sql
|
||||
|
||||
# 4. Запуск всех сервисов
|
||||
docker-compose up -d
|
||||
```
|
||||
|
||||
### Сценарий 3: Точечное восстановление Git репозитория
|
||||
```bash
|
||||
# Восстановление конкретного commit'а
|
||||
cd /DOCKER/second-mind/obsidian_repo
|
||||
git reset --hard COMMIT_HASH
|
||||
|
||||
# Или восстановление из backup'а
|
||||
rsync -av /backups/daily/YYYYMMDD/git-repo/ ./
|
||||
```
|
||||
|
||||
## 📋 Чеклист внедрения
|
||||
|
||||
### Фаза 1: Базовая автоматизация
|
||||
- [ ] Создать директории для backup'ов
|
||||
- [ ] Написать скрипты ежедневного backup'а
|
||||
- [ ] Настроить cron задачи
|
||||
- [ ] Протестировать восстановление
|
||||
|
||||
### Фаза 2: Облачное хранение
|
||||
- [ ] Настроить AWS S3 или альтернативу
|
||||
- [ ] Добавить еженедельные full backup'ы
|
||||
- [ ] Настроить шифрование
|
||||
- [ ] Автоматизировать очистку старых backup'ов
|
||||
|
||||
### Фаза 3: Мониторинг и алерты
|
||||
- [ ] Добавить мониторинг backup'ов
|
||||
- [ ] Настроить алерты в Telegram
|
||||
- [ ] Создать dashboard в Grafana
|
||||
- [ ] Документировать процедуры восстановления
|
||||
|
||||
### Фаза 4: Disaster Recovery
|
||||
- [ ] Протестировать полное восстановление
|
||||
- [ ] Создать offsite копии
|
||||
- [ ] Автоматизировать проверку целостности
|
||||
- [ ] Провести drill восстановления
|
||||
|
||||
## 💰 Оценка затрат
|
||||
|
||||
### Хранение
|
||||
- **Локальное**: 100GB SSD (~$20)
|
||||
- **AWS S3**: 50GB (~$1.15/месяц)
|
||||
- **Bandwidth**: ~$0.50/месяц
|
||||
|
||||
### Время
|
||||
- **Настройка**: 8-12 часов
|
||||
- **Поддержка**: 2 часа/месяц
|
||||
- **Тестирование**: 4 часа/квартал
|
||||
|
||||
## 🎯 Метрики успеха
|
||||
|
||||
### KPI backup'ов
|
||||
- **Успешность**: >99% успешных backup'ов
|
||||
- **Время выполнения**: <30 минут для daily
|
||||
- **Размер**: <500MB для daily, <2GB для weekly
|
||||
- **Время восстановления**: <4 часа для полного
|
||||
|
||||
### Тестирование
|
||||
- **Ежемесячно**: восстановление отдельных файлов
|
||||
- **Ежеквартально**: полное восстановление на тестовом сервере
|
||||
- **Ежегодно**: disaster recovery drill
|
||||
|
||||
---
|
||||
|
||||
*Связано с: [[Second Mind Pipeline/index|Главная страница проекта]]*
|
||||
*Приоритет: Высокий | Срок: 3 недели*
|
||||
Reference in New Issue
Block a user