Добавил кеш к lyngsat
This commit is contained in:
@@ -1,217 +0,0 @@
|
|||||||
# Celery Setup and Testing Instructions
|
|
||||||
|
|
||||||
## Prerequisites
|
|
||||||
|
|
||||||
Make sure you have Redis running (it's already configured in your docker-compose.yaml):
|
|
||||||
|
|
||||||
```bash
|
|
||||||
# Start Redis and other services
|
|
||||||
cd /home/vesemir/DataStorage
|
|
||||||
docker-compose up -d redis
|
|
||||||
```
|
|
||||||
|
|
||||||
## Installing Dependencies
|
|
||||||
|
|
||||||
```bash
|
|
||||||
pip install -r requirements.txt
|
|
||||||
```
|
|
||||||
|
|
||||||
## Database Setup
|
|
||||||
|
|
||||||
Since we're using django-celery-results and celery-beat, you need to run migrations:
|
|
||||||
|
|
||||||
```bash
|
|
||||||
python manage.py migrate
|
|
||||||
```
|
|
||||||
|
|
||||||
This will create the necessary tables for storing Celery results and managing periodic tasks.
|
|
||||||
|
|
||||||
## Running Celery
|
|
||||||
|
|
||||||
### 1. Start Celery Worker
|
|
||||||
|
|
||||||
```bash
|
|
||||||
# From the dbapp directory
|
|
||||||
cd /home/vesemir/DataStorage/dbapp
|
|
||||||
|
|
||||||
# Run with development settings
|
|
||||||
python -m celery -A dbapp worker --loglevel=info
|
|
||||||
|
|
||||||
# Or with environment variable
|
|
||||||
DJANGO_SETTINGS_MODULE=dbapp.settings.development celery -A dbapp worker --loglevel=info
|
|
||||||
```
|
|
||||||
|
|
||||||
### 2. Start Celery Beat (for periodic tasks)
|
|
||||||
|
|
||||||
```bash
|
|
||||||
# From the dbapp directory
|
|
||||||
cd /home/vesemir/DataStorage/dbapp
|
|
||||||
|
|
||||||
# Run with development settings
|
|
||||||
python -m celery -A dbapp beat --loglevel=info
|
|
||||||
|
|
||||||
# Or with environment variable
|
|
||||||
DJANGO_SETTINGS_MODULE=dbapp.settings.development celery -A dbapp beat --loglevel=info
|
|
||||||
```
|
|
||||||
|
|
||||||
### 3. Start Flower (Optional - for monitoring)
|
|
||||||
|
|
||||||
```bash
|
|
||||||
# Install flower if not already installed
|
|
||||||
pip install flower
|
|
||||||
|
|
||||||
# Run flower to monitor tasks
|
|
||||||
celery -A dbapp flower
|
|
||||||
```
|
|
||||||
|
|
||||||
## Testing Celery
|
|
||||||
|
|
||||||
### Method 1: Using Django Shell
|
|
||||||
|
|
||||||
```bash
|
|
||||||
cd /home/vesemir/DataStorage/dbapp
|
|
||||||
python manage.py shell
|
|
||||||
```
|
|
||||||
|
|
||||||
```python
|
|
||||||
# In the Django shell
|
|
||||||
from mainapp.tasks import test_celery_connection, add_numbers
|
|
||||||
from lyngsatapp.tasks import fill_lyngsat_data_task
|
|
||||||
|
|
||||||
# Test simple connection
|
|
||||||
result = test_celery_connection.delay("Test message!")
|
|
||||||
print(result.id) # Task ID
|
|
||||||
print(result.get(timeout=10)) # Wait for result and print
|
|
||||||
|
|
||||||
# Test addition
|
|
||||||
result = add_numbers.delay(5, 7)
|
|
||||||
print(result.get(timeout=10))
|
|
||||||
|
|
||||||
# Check task state
|
|
||||||
print(result.state) # Should be 'SUCCESS'
|
|
||||||
print(result.ready()) # Should be True
|
|
||||||
print(result.successful()) # Should be True
|
|
||||||
```
|
|
||||||
|
|
||||||
### Method 2: Using Django Management Command
|
|
||||||
|
|
||||||
Create a management command to test:
|
|
||||||
|
|
||||||
```bash
|
|
||||||
mkdir -p dbapp/management/commands
|
|
||||||
```
|
|
||||||
|
|
||||||
Create `/home/vesemir/DataStorage/dbapp/dbapp/management/commands/test_celery.py`:
|
|
||||||
|
|
||||||
```python
|
|
||||||
from django.core.management.base import BaseCommand
|
|
||||||
from mainapp.tasks import test_celery_connection, add_numbers
|
|
||||||
|
|
||||||
|
|
||||||
class Command(BaseCommand):
|
|
||||||
help = 'Test Celery functionality'
|
|
||||||
|
|
||||||
def handle(self, *args, **options):
|
|
||||||
self.stdout.write('Testing Celery connection...')
|
|
||||||
|
|
||||||
# Test simple task
|
|
||||||
result = test_celery_connection.delay("Hello from test command!")
|
|
||||||
self.stdout.write(f'Task ID: {result.id}')
|
|
||||||
|
|
||||||
# Wait for result
|
|
||||||
task_result = result.get(timeout=10)
|
|
||||||
self.stdout.write(self.style.SUCCESS(f'Task result: {task_result}'))
|
|
||||||
|
|
||||||
# Test math task
|
|
||||||
math_result = add_numbers.delay(10, 20)
|
|
||||||
sum_result = math_result.get(timeout=10)
|
|
||||||
self.stdout.write(self.style.SUCCESS(f'10 + 20 = {sum_result}'))
|
|
||||||
|
|
||||||
self.stdout.write(self.style.SUCCESS('All tests passed!'))
|
|
||||||
```
|
|
||||||
|
|
||||||
Then run:
|
|
||||||
```bash
|
|
||||||
python manage.py test_celery
|
|
||||||
```
|
|
||||||
|
|
||||||
## Troubleshooting
|
|
||||||
|
|
||||||
### Common Issues
|
|
||||||
|
|
||||||
1. **Connection Error with Redis**: Make sure Redis is running
|
|
||||||
```bash
|
|
||||||
docker-compose up -d redis
|
|
||||||
```
|
|
||||||
|
|
||||||
2. **Module Not Found Errors**: Ensure all dependencies are installed
|
|
||||||
```bash
|
|
||||||
pip install -r requirements.txt
|
|
||||||
```
|
|
||||||
|
|
||||||
3. **Settings Module Error**: Make sure DJANGO_SETTINGS_MODULE is set properly
|
|
||||||
```bash
|
|
||||||
export DJANGO_SETTINGS_MODULE=dbapp.settings.development
|
|
||||||
```
|
|
||||||
|
|
||||||
4. **Database Tables Missing**: Run migrations
|
|
||||||
```bash
|
|
||||||
python manage.py migrate
|
|
||||||
```
|
|
||||||
|
|
||||||
### Debugging
|
|
||||||
|
|
||||||
Check if Celery can connect to Redis:
|
|
||||||
|
|
||||||
```bash
|
|
||||||
# Test Redis connection
|
|
||||||
redis-cli ping
|
|
||||||
```
|
|
||||||
|
|
||||||
Check Celery configuration:
|
|
||||||
```python
|
|
||||||
# In Django shell
|
|
||||||
from django.conf import settings
|
|
||||||
print(settings.CELERY_BROKER_URL)
|
|
||||||
print(settings.CELERY_RESULT_BACKEND)
|
|
||||||
```
|
|
||||||
|
|
||||||
### Environment Variables
|
|
||||||
|
|
||||||
Make sure your `.env` file contains:
|
|
||||||
|
|
||||||
```
|
|
||||||
CELERY_BROKER_URL=redis://localhost:6379/0
|
|
||||||
DJANGO_SETTINGS_MODULE=dbapp.settings.development
|
|
||||||
```
|
|
||||||
|
|
||||||
## Running in Production
|
|
||||||
|
|
||||||
For production, ensure you have:
|
|
||||||
|
|
||||||
1. A production Redis instance
|
|
||||||
2. Proper security settings
|
|
||||||
3. Daemonized Celery workers
|
|
||||||
|
|
||||||
Example systemd service file for Celery worker (save as `/etc/systemd/system/celery.service`):
|
|
||||||
|
|
||||||
```
|
|
||||||
[Unit]
|
|
||||||
Description=Celery Service
|
|
||||||
After=network.target
|
|
||||||
|
|
||||||
[Service]
|
|
||||||
Type=forking
|
|
||||||
User=www-data
|
|
||||||
Group=www-data
|
|
||||||
EnvironmentFile=/path/to/your/.env
|
|
||||||
WorkingDirectory=/home/vesemir/DataStorage/dbapp
|
|
||||||
ExecStart=/path/to/your/venv/bin/celery -A dbapp worker --loglevel=info --pidfile=/var/run/celery/worker.pid --logfile=/var/log/celery/worker.log
|
|
||||||
ExecReload=/bin/kill -HUP $MAINPID
|
|
||||||
KillSignal=SIGTERM
|
|
||||||
Restart=on-failure
|
|
||||||
RestartSec=10
|
|
||||||
|
|
||||||
[Install]
|
|
||||||
WantedBy=multi-user.target
|
|
||||||
```
|
|
||||||
@@ -225,13 +225,38 @@ LEAFLET_CONFIG = {
|
|||||||
}
|
}
|
||||||
|
|
||||||
|
|
||||||
|
# ============================================================================
|
||||||
|
# CACHE CONFIGURATION
|
||||||
|
# ============================================================================
|
||||||
|
|
||||||
|
# Redis Cache Configuration
|
||||||
|
CACHES = {
|
||||||
|
"default": {
|
||||||
|
"BACKEND": "django_redis.cache.RedisCache",
|
||||||
|
"LOCATION": os.getenv("REDIS_URL", "redis://localhost:6379/1"),
|
||||||
|
"OPTIONS": {
|
||||||
|
"CLIENT_CLASS": "django_redis.client.DefaultClient",
|
||||||
|
"CONNECTION_POOL_CLASS_KWARGS": {
|
||||||
|
"max_connections": 50,
|
||||||
|
"retry_on_timeout": True,
|
||||||
|
},
|
||||||
|
"SOCKET_CONNECT_TIMEOUT": 5,
|
||||||
|
"SOCKET_TIMEOUT": 5,
|
||||||
|
},
|
||||||
|
"KEY_PREFIX": "dbapp",
|
||||||
|
"TIMEOUT": 300, # Default timeout 5 minutes
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
# ============================================================================
|
# ============================================================================
|
||||||
# CELERY CONFIGURATION
|
# CELERY CONFIGURATION
|
||||||
# ============================================================================
|
# ============================================================================
|
||||||
|
|
||||||
# Celery Configuration Options
|
# Celery Configuration Options
|
||||||
CELERY_BROKER_URL = os.getenv("CELERY_BROKER_URL", "redis://localhost:6379/0")
|
CELERY_BROKER_URL = os.getenv("CELERY_BROKER_URL", "redis://localhost:6379/0")
|
||||||
CELERY_RESULT_BACKEND = os.getenv("CELERY_BROKER_URL", "redis://localhost:6379/0") # Use Redis for results
|
CELERY_RESULT_BACKEND = os.getenv(
|
||||||
|
"CELERY_BROKER_URL", "redis://localhost:6379/0"
|
||||||
|
) # Use Redis for results
|
||||||
CELERY_CACHE_BACKEND = "default"
|
CELERY_CACHE_BACKEND = "default"
|
||||||
|
|
||||||
# Celery Task Configuration
|
# Celery Task Configuration
|
||||||
@@ -257,3 +282,7 @@ CELERY_ACCEPT_CONTENT = ["json"]
|
|||||||
CELERY_TASK_SERIALIZER = "json"
|
CELERY_TASK_SERIALIZER = "json"
|
||||||
CELERY_RESULT_SERIALIZER = "json"
|
CELERY_RESULT_SERIALIZER = "json"
|
||||||
CELERY_TIMEZONE = TIME_ZONE
|
CELERY_TIMEZONE = TIME_ZONE
|
||||||
|
|
||||||
|
# Celery Exception Handling
|
||||||
|
CELERY_TASK_IGNORE_RESULT = False
|
||||||
|
CELERY_TASK_STORE_ERRORS_EVEN_IF_IGNORED = True
|
||||||
|
|||||||
564
dbapp/lyngsatapp/async_parser.py
Normal file
564
dbapp/lyngsatapp/async_parser.py
Normal file
@@ -0,0 +1,564 @@
|
|||||||
|
"""
|
||||||
|
Асинхронный парсер данных LyngSat с поддержкой кеширования в Redis.
|
||||||
|
"""
|
||||||
|
import requests
|
||||||
|
from bs4 import BeautifulSoup
|
||||||
|
from datetime import datetime
|
||||||
|
import re
|
||||||
|
import logging
|
||||||
|
from typing import Optional
|
||||||
|
from django.core.cache import cache
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
|
||||||
|
def parse_satellite_names(satellite_string: str) -> list[str]:
|
||||||
|
"""Извлекает все возможные имена спутников из строки."""
|
||||||
|
slash_parts = [part.strip() for part in satellite_string.split('/')]
|
||||||
|
all_names = []
|
||||||
|
for part in slash_parts:
|
||||||
|
main_match = re.match(r'^([^(]+)', part)
|
||||||
|
if main_match:
|
||||||
|
main_name = main_match.group(1).strip()
|
||||||
|
if main_name:
|
||||||
|
all_names.append(main_name)
|
||||||
|
bracket_match = re.search(r'\(([^)]+)\)', part)
|
||||||
|
if bracket_match:
|
||||||
|
bracket_name = bracket_match.group(1).strip()
|
||||||
|
if bracket_name:
|
||||||
|
all_names.append(bracket_name)
|
||||||
|
seen = set()
|
||||||
|
result = []
|
||||||
|
for name in all_names:
|
||||||
|
if name not in seen:
|
||||||
|
seen.add(name)
|
||||||
|
result.append(name.strip().lower())
|
||||||
|
return result
|
||||||
|
|
||||||
|
|
||||||
|
class AsyncLyngSatParser:
|
||||||
|
"""
|
||||||
|
Асинхронный парсер данных для LyngSat с поддержкой кеширования.
|
||||||
|
|
||||||
|
Кеширование:
|
||||||
|
- Страницы регионов кешируются на 7 дней
|
||||||
|
- Данные спутников кешируются на 1 день
|
||||||
|
"""
|
||||||
|
|
||||||
|
# Время жизни кеша
|
||||||
|
REGION_CACHE_TTL = 60 * 60 * 24 * 7 # 7 дней
|
||||||
|
SATELLITE_CACHE_TTL = 60 * 60 * 24 # 1 день
|
||||||
|
|
||||||
|
# Префиксы для ключей кеша
|
||||||
|
REGION_CACHE_PREFIX = "lyngsat_region"
|
||||||
|
SATELLITE_CACHE_PREFIX = "lyngsat_satellite"
|
||||||
|
SATELLITE_LIST_CACHE_PREFIX = "lyngsat_sat_list"
|
||||||
|
|
||||||
|
def __init__(
|
||||||
|
self,
|
||||||
|
flaresolver_url: str = "http://localhost:8191/v1",
|
||||||
|
regions: list[str] | None = None,
|
||||||
|
target_sats: list[str] | None = None,
|
||||||
|
use_cache: bool = True,
|
||||||
|
):
|
||||||
|
"""
|
||||||
|
Инициализация парсера.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
flaresolver_url: URL FlareSolverr для обхода защиты
|
||||||
|
regions: Список регионов для парсинга
|
||||||
|
target_sats: Список целевых спутников (в нижнем регистре)
|
||||||
|
use_cache: Использовать ли кеширование
|
||||||
|
"""
|
||||||
|
self.flaresolver_url = flaresolver_url
|
||||||
|
self.use_cache = use_cache
|
||||||
|
self.target_sats = (
|
||||||
|
list(map(lambda sat: sat.strip().lower(), target_sats)) if target_sats else None
|
||||||
|
)
|
||||||
|
self.regions = regions if regions else ["europe", "asia", "america", "atlantic"]
|
||||||
|
self.BASE_URL = "https://www.lyngsat.com"
|
||||||
|
|
||||||
|
def _get_cache_key(self, prefix: str, identifier: str) -> str:
|
||||||
|
"""Генерирует ключ для кеша."""
|
||||||
|
return f"{prefix}:{identifier}"
|
||||||
|
|
||||||
|
def _get_from_cache(self, key: str) -> Optional[any]:
|
||||||
|
"""Получает данные из кеша."""
|
||||||
|
if not self.use_cache:
|
||||||
|
return None
|
||||||
|
try:
|
||||||
|
data = cache.get(key)
|
||||||
|
if data:
|
||||||
|
logger.debug(f"Данные получены из кеша: {key}")
|
||||||
|
return data
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"Ошибка при получении из кеша {key}: {e}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
def _set_to_cache(self, key: str, value: any, ttl: int) -> None:
|
||||||
|
"""Сохраняет данные в кеш."""
|
||||||
|
if not self.use_cache:
|
||||||
|
return
|
||||||
|
try:
|
||||||
|
cache.set(key, value, timeout=ttl)
|
||||||
|
logger.debug(f"Данные сохранены в кеш: {key} (TTL: {ttl}s)")
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"Ошибка при сохранении в кеш {key}: {e}")
|
||||||
|
|
||||||
|
@classmethod
|
||||||
|
def clear_cache(cls, cache_type: str = "all") -> dict:
|
||||||
|
"""
|
||||||
|
Очищает кеш парсера.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
cache_type: Тип кеша для очистки ("regions", "satellites", "all")
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика очистки
|
||||||
|
"""
|
||||||
|
stats = {"cleared": 0, "errors": []}
|
||||||
|
|
||||||
|
try:
|
||||||
|
from django.core.cache import cache as django_cache
|
||||||
|
|
||||||
|
if cache_type in ("regions", "all"):
|
||||||
|
# Очищаем кеш регионов
|
||||||
|
regions = ["europe", "asia", "america", "atlantic"]
|
||||||
|
for region in regions:
|
||||||
|
key = f"{cls.REGION_CACHE_PREFIX}:{region}"
|
||||||
|
try:
|
||||||
|
result = django_cache.delete(key)
|
||||||
|
if result:
|
||||||
|
stats["cleared"] += 1
|
||||||
|
logger.info(f"Очищен кеш региона: {region}")
|
||||||
|
else:
|
||||||
|
logger.debug(f"Кеш региона {region} не найден или уже удален")
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при очистке кеша региона {region}: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
|
||||||
|
if cache_type in ("satellites", "all"):
|
||||||
|
# Для очистки кеша спутников используем keys()
|
||||||
|
if hasattr(django_cache, 'keys'):
|
||||||
|
try:
|
||||||
|
# Очищаем списки спутников
|
||||||
|
list_keys = django_cache.keys(f"{cls.SATELLITE_LIST_CACHE_PREFIX}:*")
|
||||||
|
if list_keys:
|
||||||
|
if hasattr(django_cache, 'delete_many'):
|
||||||
|
django_cache.delete_many(list_keys)
|
||||||
|
else:
|
||||||
|
for key in list_keys:
|
||||||
|
django_cache.delete(key)
|
||||||
|
stats["cleared"] += len(list_keys)
|
||||||
|
logger.info(f"Очищено {len(list_keys)} списков спутников")
|
||||||
|
|
||||||
|
# Очищаем данные спутников
|
||||||
|
sat_keys = django_cache.keys(f"{cls.SATELLITE_CACHE_PREFIX}:*")
|
||||||
|
if sat_keys:
|
||||||
|
if hasattr(django_cache, 'delete_many'):
|
||||||
|
django_cache.delete_many(sat_keys)
|
||||||
|
else:
|
||||||
|
for key in sat_keys:
|
||||||
|
django_cache.delete(key)
|
||||||
|
stats["cleared"] += len(sat_keys)
|
||||||
|
logger.info(f"Очищено {len(sat_keys)} данных спутников")
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при очистке кеша спутников: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
else:
|
||||||
|
logger.warning("Бэкенд кеша не поддерживает keys()")
|
||||||
|
logger.info("Для полной очистки используйте: redis-cli flushdb")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Критическая ошибка при очистке кеша: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
|
||||||
|
return stats
|
||||||
|
|
||||||
|
@classmethod
|
||||||
|
def clear_all_cache(cls) -> dict:
|
||||||
|
"""Полностью очищает весь кеш LyngSat."""
|
||||||
|
stats = {"cleared": 0, "errors": []}
|
||||||
|
try:
|
||||||
|
from django.core.cache import cache as django_cache
|
||||||
|
|
||||||
|
# Для django-redis используем keys() + delete_many()
|
||||||
|
if hasattr(django_cache, 'keys'):
|
||||||
|
patterns = [
|
||||||
|
f"{cls.REGION_CACHE_PREFIX}:*",
|
||||||
|
f"{cls.SATELLITE_CACHE_PREFIX}:*",
|
||||||
|
f"{cls.SATELLITE_LIST_CACHE_PREFIX}:*",
|
||||||
|
]
|
||||||
|
|
||||||
|
all_keys = []
|
||||||
|
for pattern in patterns:
|
||||||
|
try:
|
||||||
|
keys = django_cache.keys(pattern)
|
||||||
|
if keys:
|
||||||
|
all_keys.extend(keys)
|
||||||
|
logger.info(f"Найдено {len(keys)} ключей по паттерну: {pattern}")
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при поиске ключей {pattern}: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
|
||||||
|
# Удаляем все найденные ключи
|
||||||
|
if all_keys:
|
||||||
|
try:
|
||||||
|
if hasattr(django_cache, 'delete_many'):
|
||||||
|
django_cache.delete_many(all_keys)
|
||||||
|
else:
|
||||||
|
for key in all_keys:
|
||||||
|
django_cache.delete(key)
|
||||||
|
stats["cleared"] = len(all_keys)
|
||||||
|
logger.info(f"Удалено {len(all_keys)} ключей")
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при удалении ключей: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
else:
|
||||||
|
logger.info("Ключи для удаления не найдены")
|
||||||
|
|
||||||
|
elif hasattr(django_cache, 'delete_pattern'):
|
||||||
|
# Fallback на delete_pattern
|
||||||
|
patterns = [
|
||||||
|
f"{cls.REGION_CACHE_PREFIX}:*",
|
||||||
|
f"{cls.SATELLITE_CACHE_PREFIX}:*",
|
||||||
|
f"{cls.SATELLITE_LIST_CACHE_PREFIX}:*",
|
||||||
|
]
|
||||||
|
for pattern in patterns:
|
||||||
|
try:
|
||||||
|
deleted = django_cache.delete_pattern(pattern)
|
||||||
|
if deleted and isinstance(deleted, int):
|
||||||
|
stats["cleared"] += deleted
|
||||||
|
logger.info(f"Очищено {deleted} ключей по паттерну: {pattern}")
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при очистке паттерна {pattern}: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
else:
|
||||||
|
# Fallback для других бэкендов кеша
|
||||||
|
logger.warning("Бэкенд кеша не поддерживает keys() или delete_pattern()")
|
||||||
|
return cls.clear_cache("all")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Критическая ошибка при полной очистке кеша: {e}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
|
||||||
|
return stats
|
||||||
|
|
||||||
|
def parse_metadata(self, metadata: str) -> dict:
|
||||||
|
"""Парсит метаданные транспондера."""
|
||||||
|
if not metadata or not metadata.strip():
|
||||||
|
return {
|
||||||
|
"standard": None,
|
||||||
|
"modulation": None,
|
||||||
|
"symbol_rate": None,
|
||||||
|
"fec": None,
|
||||||
|
}
|
||||||
|
normalized = re.sub(r"\s+", "", metadata.strip())
|
||||||
|
fec_match = re.search(r"([1-9]/[1-9])$", normalized)
|
||||||
|
fec = fec_match.group(1) if fec_match else None
|
||||||
|
if fec_match:
|
||||||
|
core = normalized[: fec_match.start()]
|
||||||
|
else:
|
||||||
|
core = normalized
|
||||||
|
std_match = re.match(r"(DVB-S2?|ABS-S|DVB-T2?|ATSC|ISDB)", core)
|
||||||
|
standard = std_match.group(1) if std_match else None
|
||||||
|
rest = core[len(standard) :] if standard else core
|
||||||
|
modulation = None
|
||||||
|
mod_match = re.match(r"(8PSK|QPSK|16APSK|32APSK|64QAM|256QAM|BPSK)", rest)
|
||||||
|
if mod_match:
|
||||||
|
modulation = mod_match.group(1)
|
||||||
|
rest = rest[len(modulation) :]
|
||||||
|
symbol_rate = None
|
||||||
|
sr_match = re.search(r"(\d+)$", rest)
|
||||||
|
if sr_match:
|
||||||
|
try:
|
||||||
|
symbol_rate = int(sr_match.group(1))
|
||||||
|
except ValueError:
|
||||||
|
pass
|
||||||
|
|
||||||
|
return {
|
||||||
|
"standard": standard,
|
||||||
|
"modulation": modulation,
|
||||||
|
"symbol_rate": symbol_rate,
|
||||||
|
"fec": fec,
|
||||||
|
}
|
||||||
|
|
||||||
|
def extract_date(self, s: str) -> datetime | None:
|
||||||
|
"""Извлекает дату из строки формата YYMMDD."""
|
||||||
|
s = s.strip()
|
||||||
|
match = re.search(r"(\d{6})$", s)
|
||||||
|
if not match:
|
||||||
|
return None
|
||||||
|
yymmdd = match.group(1)
|
||||||
|
try:
|
||||||
|
return datetime.strptime(yymmdd, "%y%m%d").date()
|
||||||
|
except ValueError:
|
||||||
|
return None
|
||||||
|
|
||||||
|
def convert_polarization(self, polarization: str) -> str:
|
||||||
|
"""Преобразует код поляризации в понятное название на русском."""
|
||||||
|
polarization_map = {
|
||||||
|
"V": "Вертикальная",
|
||||||
|
"H": "Горизонтальная",
|
||||||
|
"R": "Правая",
|
||||||
|
"L": "Левая",
|
||||||
|
}
|
||||||
|
return polarization_map.get(polarization.upper(), polarization)
|
||||||
|
|
||||||
|
def fetch_region_page(self, region: str, force_refresh: bool = False) -> Optional[str]:
|
||||||
|
"""
|
||||||
|
Получает HTML страницу региона с кешированием.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
region: Название региона
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
HTML содержимое страницы или None при ошибке
|
||||||
|
"""
|
||||||
|
cache_key = self._get_cache_key(self.REGION_CACHE_PREFIX, region)
|
||||||
|
|
||||||
|
# Проверяем кеш
|
||||||
|
if not force_refresh:
|
||||||
|
cached_html = self._get_from_cache(cache_key)
|
||||||
|
if cached_html:
|
||||||
|
logger.info(f"Страница региона {region} получена из кеша")
|
||||||
|
return cached_html
|
||||||
|
|
||||||
|
# Запрашиваем страницу
|
||||||
|
url = f"{self.BASE_URL}/{region}.html"
|
||||||
|
logger.info(f"Запрос страницы региона: {url}")
|
||||||
|
|
||||||
|
try:
|
||||||
|
payload = {"cmd": "request.get", "url": url, "maxTimeout": 60000}
|
||||||
|
response = requests.post(self.flaresolver_url, json=payload, timeout=70)
|
||||||
|
|
||||||
|
if response.status_code != 200:
|
||||||
|
logger.error(f"Ошибка при запросе {url}: статус {response.status_code}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
html_content = response.json().get("solution", {}).get("response", "")
|
||||||
|
|
||||||
|
if html_content:
|
||||||
|
# Сохраняем в кеш
|
||||||
|
self._set_to_cache(cache_key, html_content, self.REGION_CACHE_TTL)
|
||||||
|
logger.info(f"Страница региона {region} получена и закеширована")
|
||||||
|
|
||||||
|
return html_content
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"Ошибка при получении страницы {url}: {e}", exc_info=True)
|
||||||
|
return None
|
||||||
|
|
||||||
|
def get_satellite_list_from_region(self, region: str, force_refresh: bool = False) -> list[dict]:
|
||||||
|
"""
|
||||||
|
Получает список спутников из региона.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
region: Название региона
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Список словарей с информацией о спутниках
|
||||||
|
"""
|
||||||
|
# Создаем уникальный ключ кеша с учетом целевых спутников
|
||||||
|
# Если target_sats не указаны, используем "all"
|
||||||
|
sats_key = "all" if not self.target_sats else "_".join(sorted(self.target_sats))
|
||||||
|
cache_key = self._get_cache_key(self.SATELLITE_LIST_CACHE_PREFIX, f"{region}_{sats_key}")
|
||||||
|
|
||||||
|
# Проверяем кеш
|
||||||
|
if not force_refresh:
|
||||||
|
cached_list = self._get_from_cache(cache_key)
|
||||||
|
if cached_list:
|
||||||
|
logger.info(f"Список спутников региона {region} (фильтр: {sats_key[:50]}) получен из кеша")
|
||||||
|
return cached_list
|
||||||
|
|
||||||
|
# Получаем HTML страницы
|
||||||
|
html_content = self.fetch_region_page(region, force_refresh)
|
||||||
|
if not html_content:
|
||||||
|
return []
|
||||||
|
|
||||||
|
# Парсим список спутников
|
||||||
|
satellites = []
|
||||||
|
try:
|
||||||
|
soup = BeautifulSoup(html_content, "html.parser")
|
||||||
|
col_table = soup.find_all("div", class_="desktab")[0]
|
||||||
|
tables = col_table.find_next_sibling("table").find_all("table")
|
||||||
|
|
||||||
|
trs = []
|
||||||
|
for table in tables:
|
||||||
|
trs.extend(table.find_all("tr"))
|
||||||
|
|
||||||
|
for tr in trs:
|
||||||
|
sat_name = tr.find("span").text.replace("ü", "u").strip().lower()
|
||||||
|
|
||||||
|
# Фильтруем по целевым спутникам
|
||||||
|
if self.target_sats is not None:
|
||||||
|
names = parse_satellite_names(sat_name)
|
||||||
|
if len(names) == 1:
|
||||||
|
sat_name = names[0]
|
||||||
|
else:
|
||||||
|
for name in names:
|
||||||
|
if name in self.target_sats:
|
||||||
|
sat_name = name
|
||||||
|
break
|
||||||
|
|
||||||
|
if sat_name not in self.target_sats:
|
||||||
|
continue
|
||||||
|
|
||||||
|
try:
|
||||||
|
sat_url = tr.find_all("a")[2]["href"]
|
||||||
|
except IndexError:
|
||||||
|
sat_url = tr.find_all("a")[0]["href"]
|
||||||
|
|
||||||
|
update_date_str = tr.find_all("td")[-1].text
|
||||||
|
try:
|
||||||
|
update_date = datetime.strptime(update_date_str, "%y%m%d").date()
|
||||||
|
except (ValueError, TypeError):
|
||||||
|
update_date = None
|
||||||
|
|
||||||
|
satellites.append({
|
||||||
|
"name": sat_name,
|
||||||
|
"url": sat_url,
|
||||||
|
"update_date": update_date,
|
||||||
|
"region": region
|
||||||
|
})
|
||||||
|
|
||||||
|
# Сохраняем в кеш
|
||||||
|
self._set_to_cache(cache_key, satellites, self.REGION_CACHE_TTL)
|
||||||
|
sats_filter = "все" if not self.target_sats else f"{len(self.target_sats)} целевых"
|
||||||
|
logger.info(f"Найдено {len(satellites)} спутников в регионе {region} (фильтр: {sats_filter})")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"Ошибка при парсинге списка спутников региона {region}: {e}", exc_info=True)
|
||||||
|
|
||||||
|
return satellites
|
||||||
|
|
||||||
|
def fetch_satellite_data(self, sat_name: str, sat_url: str, force_refresh: bool = False) -> Optional[dict]:
|
||||||
|
"""
|
||||||
|
Получает данные одного спутника с кешированием.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
sat_name: Название спутника
|
||||||
|
sat_url: URL страницы спутника
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Словарь с данными спутника или None при ошибке
|
||||||
|
"""
|
||||||
|
cache_key = self._get_cache_key(self.SATELLITE_CACHE_PREFIX, sat_name)
|
||||||
|
|
||||||
|
# Проверяем кеш
|
||||||
|
if not force_refresh:
|
||||||
|
cached_data = self._get_from_cache(cache_key)
|
||||||
|
if cached_data:
|
||||||
|
logger.info(f"Данные спутника {sat_name} получены из кеша")
|
||||||
|
return cached_data
|
||||||
|
|
||||||
|
# Запрашиваем данные
|
||||||
|
full_url = f"{self.BASE_URL}/{sat_url}"
|
||||||
|
logger.info(f"Запрос данных спутника {sat_name}: {full_url}")
|
||||||
|
|
||||||
|
try:
|
||||||
|
payload = {"cmd": "request.get", "url": full_url, "maxTimeout": 60000}
|
||||||
|
response = requests.post(self.flaresolver_url, json=payload, timeout=70)
|
||||||
|
|
||||||
|
if response.status_code != 200:
|
||||||
|
logger.error(f"Ошибка при запросе {full_url}: статус {response.status_code}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
html_content = response.json().get("solution", {}).get("response", "")
|
||||||
|
|
||||||
|
if not html_content:
|
||||||
|
logger.warning(f"Пустой ответ для спутника {sat_name}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
# Парсим данные
|
||||||
|
sources = self.parse_satellite_content(html_content)
|
||||||
|
|
||||||
|
satellite_data = {
|
||||||
|
"name": sat_name,
|
||||||
|
"url": full_url,
|
||||||
|
"sources": sources,
|
||||||
|
"fetched_at": datetime.now().isoformat()
|
||||||
|
}
|
||||||
|
|
||||||
|
# Сохраняем в кеш
|
||||||
|
self._set_to_cache(cache_key, satellite_data, self.SATELLITE_CACHE_TTL)
|
||||||
|
logger.info(f"Данные спутника {sat_name} получены и закешированы ({len(sources)} источников)")
|
||||||
|
|
||||||
|
return satellite_data
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"Ошибка при получении данных спутника {sat_name}: {e}", exc_info=True)
|
||||||
|
return None
|
||||||
|
|
||||||
|
def parse_satellite_content(self, html_content: str) -> list[dict]:
|
||||||
|
"""Парсит содержимое страницы спутника."""
|
||||||
|
data = []
|
||||||
|
try:
|
||||||
|
sat_soup = BeautifulSoup(html_content, "html.parser")
|
||||||
|
big_table = sat_soup.find("table", class_="bigtable")
|
||||||
|
|
||||||
|
if not big_table:
|
||||||
|
logger.warning("Таблица bigtable не найдена")
|
||||||
|
return data
|
||||||
|
|
||||||
|
all_tables = big_table.find_all("div", class_="desktab")[:-1]
|
||||||
|
|
||||||
|
for table in all_tables:
|
||||||
|
trs = table.find_next_sibling("table").find_all("tr")
|
||||||
|
for idx, tr in enumerate(trs):
|
||||||
|
tds = tr.find_all("td")
|
||||||
|
if len(tds) < 9 or idx < 2:
|
||||||
|
continue
|
||||||
|
|
||||||
|
try:
|
||||||
|
freq, polarization = tds[0].find("b").text.strip().split("\xa0")
|
||||||
|
polarization = self.convert_polarization(polarization)
|
||||||
|
meta = self.parse_metadata(tds[1].text)
|
||||||
|
provider_name = tds[3].text
|
||||||
|
last_update = self.extract_date(tds[-1].text)
|
||||||
|
|
||||||
|
data.append({
|
||||||
|
"freq": freq,
|
||||||
|
"pol": polarization,
|
||||||
|
"metadata": meta,
|
||||||
|
"provider_name": provider_name,
|
||||||
|
"last_update": last_update,
|
||||||
|
})
|
||||||
|
except Exception as e:
|
||||||
|
logger.debug(f"Ошибка при парсинге строки транспондера: {e}")
|
||||||
|
continue
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"Ошибка при парсинге содержимого спутника: {e}", exc_info=True)
|
||||||
|
|
||||||
|
return data
|
||||||
|
|
||||||
|
def get_all_satellites_list(self, force_refresh: bool = False) -> list[dict]:
|
||||||
|
"""
|
||||||
|
Получает список всех спутников из всех регионов.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Список словарей с информацией о спутниках
|
||||||
|
"""
|
||||||
|
all_satellites = []
|
||||||
|
|
||||||
|
for region in self.regions:
|
||||||
|
logger.info(f"Получение списка спутников из региона: {region}")
|
||||||
|
satellites = self.get_satellite_list_from_region(region, force_refresh)
|
||||||
|
all_satellites.extend(satellites)
|
||||||
|
|
||||||
|
logger.info(f"Всего найдено спутников: {len(all_satellites)}")
|
||||||
|
return all_satellites
|
||||||
287
dbapp/lyngsatapp/async_utils.py
Normal file
287
dbapp/lyngsatapp/async_utils.py
Normal file
@@ -0,0 +1,287 @@
|
|||||||
|
"""
|
||||||
|
Утилиты для асинхронной обработки данных LyngSat с кешированием.
|
||||||
|
"""
|
||||||
|
import logging
|
||||||
|
from typing import Callable, Optional
|
||||||
|
from .async_parser import AsyncLyngSatParser
|
||||||
|
from .models import LyngSat
|
||||||
|
from mainapp.models import Polarization, Standard, Modulation, Satellite
|
||||||
|
|
||||||
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
|
||||||
|
def process_single_satellite(
|
||||||
|
parser: AsyncLyngSatParser,
|
||||||
|
satellite_info: dict,
|
||||||
|
force_refresh: bool = False
|
||||||
|
) -> dict:
|
||||||
|
"""
|
||||||
|
Обрабатывает один спутник и сохраняет данные в БД.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
parser: Экземпляр парсера
|
||||||
|
satellite_info: Информация о спутнике (name, url, update_date)
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика обработки спутника
|
||||||
|
"""
|
||||||
|
sat_name = satellite_info["name"]
|
||||||
|
sat_url = satellite_info["url"]
|
||||||
|
|
||||||
|
stats = {
|
||||||
|
"satellite_name": sat_name,
|
||||||
|
"sources_found": 0,
|
||||||
|
"created": 0,
|
||||||
|
"updated": 0,
|
||||||
|
"errors": []
|
||||||
|
}
|
||||||
|
|
||||||
|
logger.info(f"Обработка спутника: {sat_name}")
|
||||||
|
|
||||||
|
# Получаем данные спутника (из кеша или с сайта)
|
||||||
|
satellite_data = parser.fetch_satellite_data(sat_name, sat_url, force_refresh)
|
||||||
|
|
||||||
|
if not satellite_data:
|
||||||
|
error_msg = f"Не удалось получить данные для спутника {sat_name}"
|
||||||
|
logger.error(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
return stats
|
||||||
|
|
||||||
|
sources = satellite_data.get("sources", [])
|
||||||
|
stats["sources_found"] = len(sources)
|
||||||
|
|
||||||
|
logger.info(f"Найдено {len(sources)} источников для {sat_name}")
|
||||||
|
|
||||||
|
# Находим спутник в базе
|
||||||
|
try:
|
||||||
|
sat_obj = Satellite.objects.get(name__icontains=sat_name)
|
||||||
|
logger.debug(f"Спутник {sat_name} найден в базе (ID: {sat_obj.id})")
|
||||||
|
except Satellite.DoesNotExist:
|
||||||
|
error_msg = f"Спутник '{sat_name}' не найден в базе данных"
|
||||||
|
logger.warning(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
return stats
|
||||||
|
except Satellite.MultipleObjectsReturned:
|
||||||
|
error_msg = f"Найдено несколько спутников с именем '{sat_name}'"
|
||||||
|
logger.warning(error_msg)
|
||||||
|
stats["errors"].append(error_msg)
|
||||||
|
return stats
|
||||||
|
|
||||||
|
# Обрабатываем каждый источник
|
||||||
|
for source_idx, source in enumerate(sources, 1):
|
||||||
|
try:
|
||||||
|
# Парсим частоту
|
||||||
|
try:
|
||||||
|
freq = float(source['freq'])
|
||||||
|
except (ValueError, TypeError):
|
||||||
|
freq = -1.0
|
||||||
|
logger.debug(f"Некорректная частота для {sat_name}: {source.get('freq')}")
|
||||||
|
|
||||||
|
last_update = source['last_update']
|
||||||
|
fec = source['metadata'].get('fec')
|
||||||
|
modulation_name = source['metadata'].get('modulation')
|
||||||
|
standard_name = source['metadata'].get('standard')
|
||||||
|
symbol_velocity = source['metadata'].get('symbol_rate')
|
||||||
|
polarization_name = source['pol']
|
||||||
|
channel_info = source['provider_name']
|
||||||
|
|
||||||
|
# Создаем или получаем связанные объекты
|
||||||
|
pol_obj, _ = Polarization.objects.get_or_create(
|
||||||
|
name=polarization_name if polarization_name else "-"
|
||||||
|
)
|
||||||
|
|
||||||
|
mod_obj, _ = Modulation.objects.get_or_create(
|
||||||
|
name=modulation_name if modulation_name else "-"
|
||||||
|
)
|
||||||
|
|
||||||
|
standard_obj, _ = Standard.objects.get_or_create(
|
||||||
|
name=standard_name if standard_name else "-"
|
||||||
|
)
|
||||||
|
|
||||||
|
# Создаем или обновляем запись Lyngsat
|
||||||
|
lyng_obj, created = LyngSat.objects.update_or_create(
|
||||||
|
id_satellite=sat_obj,
|
||||||
|
frequency=freq,
|
||||||
|
polarization=pol_obj,
|
||||||
|
defaults={
|
||||||
|
"modulation": mod_obj,
|
||||||
|
"standard": standard_obj,
|
||||||
|
"sym_velocity": symbol_velocity if symbol_velocity else 0,
|
||||||
|
"channel_info": channel_info[:20] if channel_info else "",
|
||||||
|
"last_update": last_update,
|
||||||
|
"fec": fec[:30] if fec else "",
|
||||||
|
"url": satellite_data["url"]
|
||||||
|
}
|
||||||
|
)
|
||||||
|
|
||||||
|
if created:
|
||||||
|
stats['created'] += 1
|
||||||
|
logger.debug(f"Создана запись для {sat_name} {freq} МГц")
|
||||||
|
else:
|
||||||
|
stats['updated'] += 1
|
||||||
|
logger.debug(f"Обновлена запись для {sat_name} {freq} МГц")
|
||||||
|
|
||||||
|
# Логируем прогресс каждые 10 источников
|
||||||
|
if source_idx % 10 == 0:
|
||||||
|
logger.info(f"Обработано {source_idx}/{len(sources)} источников для {sat_name}")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Ошибка при обработке источника {sat_name}: {str(e)}"
|
||||||
|
logger.error(error_msg, exc_info=True)
|
||||||
|
stats['errors'].append(error_msg)
|
||||||
|
continue
|
||||||
|
|
||||||
|
logger.info(f"Завершена обработка {sat_name}: создано {stats['created']}, обновлено {stats['updated']}")
|
||||||
|
return stats
|
||||||
|
|
||||||
|
|
||||||
|
def fill_lyngsat_data_async(
|
||||||
|
target_sats: list[str],
|
||||||
|
regions: list[str] = None,
|
||||||
|
task_id: str = None,
|
||||||
|
update_progress: Optional[Callable] = None,
|
||||||
|
force_refresh: bool = False,
|
||||||
|
use_cache: bool = True
|
||||||
|
) -> dict:
|
||||||
|
"""
|
||||||
|
Асинхронно заполняет данные Lyngsat для указанных спутников.
|
||||||
|
Обрабатывает спутники по одному с кешированием.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
target_sats: Список названий спутников для обработки
|
||||||
|
regions: Список регионов для парсинга (по умолчанию все)
|
||||||
|
task_id: ID задачи Celery для логирования
|
||||||
|
update_progress: Функция для обновления прогресса (current, total, status, details)
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
use_cache: Использовать ли кеширование
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика обработки
|
||||||
|
"""
|
||||||
|
log_prefix = f"[Task {task_id}]" if task_id else "[Lyngsat Async]"
|
||||||
|
|
||||||
|
overall_stats = {
|
||||||
|
'total_satellites': 0,
|
||||||
|
'processed_satellites': 0,
|
||||||
|
'total_sources': 0,
|
||||||
|
'created': 0,
|
||||||
|
'updated': 0,
|
||||||
|
'errors': [],
|
||||||
|
'satellites_details': []
|
||||||
|
}
|
||||||
|
|
||||||
|
if regions is None:
|
||||||
|
regions = ["europe", "asia", "america", "atlantic"]
|
||||||
|
|
||||||
|
logger.info(f"{log_prefix} Начало асинхронной обработки данных")
|
||||||
|
logger.info(f"{log_prefix} Спутники: {', '.join(target_sats)}")
|
||||||
|
logger.info(f"{log_prefix} Регионы: {', '.join(regions)}")
|
||||||
|
logger.info(f"{log_prefix} Использование кеша: {use_cache}, Принудительное обновление: {force_refresh}")
|
||||||
|
|
||||||
|
if update_progress:
|
||||||
|
update_progress(0, len(target_sats), "Инициализация парсера...", {})
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Создаем парсер
|
||||||
|
parser = AsyncLyngSatParser(
|
||||||
|
flaresolver_url="http://localhost:8191/v1",
|
||||||
|
target_sats=target_sats,
|
||||||
|
regions=regions,
|
||||||
|
use_cache=use_cache
|
||||||
|
)
|
||||||
|
|
||||||
|
logger.info(f"{log_prefix} Получение списка спутников...")
|
||||||
|
if update_progress:
|
||||||
|
update_progress(0, len(target_sats), "Получение списка спутников...", {})
|
||||||
|
|
||||||
|
# Получаем список всех спутников
|
||||||
|
all_satellites = parser.get_all_satellites_list(force_refresh)
|
||||||
|
overall_stats['total_satellites'] = len(all_satellites)
|
||||||
|
|
||||||
|
logger.info(f"{log_prefix} Найдено {len(all_satellites)} спутников для обработки")
|
||||||
|
|
||||||
|
# Обрабатываем каждый спутник по отдельности
|
||||||
|
for idx, satellite_info in enumerate(all_satellites, 1):
|
||||||
|
sat_name = satellite_info["name"]
|
||||||
|
|
||||||
|
logger.info(f"{log_prefix} Обработка спутника {idx}/{len(all_satellites)}: {sat_name}")
|
||||||
|
|
||||||
|
if update_progress:
|
||||||
|
update_progress(
|
||||||
|
idx - 1,
|
||||||
|
len(all_satellites),
|
||||||
|
f"Обработка {sat_name}...",
|
||||||
|
{
|
||||||
|
"current_satellite": sat_name,
|
||||||
|
"created": overall_stats['created'],
|
||||||
|
"updated": overall_stats['updated']
|
||||||
|
}
|
||||||
|
)
|
||||||
|
|
||||||
|
# Обрабатываем спутник
|
||||||
|
sat_stats = process_single_satellite(parser, satellite_info, force_refresh)
|
||||||
|
|
||||||
|
# Обновляем общую статистику
|
||||||
|
overall_stats['processed_satellites'] += 1
|
||||||
|
overall_stats['total_sources'] += sat_stats['sources_found']
|
||||||
|
overall_stats['created'] += sat_stats['created']
|
||||||
|
overall_stats['updated'] += sat_stats['updated']
|
||||||
|
overall_stats['errors'].extend(sat_stats['errors'])
|
||||||
|
overall_stats['satellites_details'].append(sat_stats)
|
||||||
|
|
||||||
|
logger.info(
|
||||||
|
f"{log_prefix} Спутник {sat_name} обработан: "
|
||||||
|
f"источников {sat_stats['sources_found']}, "
|
||||||
|
f"создано {sat_stats['created']}, "
|
||||||
|
f"обновлено {sat_stats['updated']}"
|
||||||
|
)
|
||||||
|
|
||||||
|
logger.info(
|
||||||
|
f"{log_prefix} Обработка завершена. "
|
||||||
|
f"Спутников: {overall_stats['processed_satellites']}/{overall_stats['total_satellites']}, "
|
||||||
|
f"Источников: {overall_stats['total_sources']}, "
|
||||||
|
f"Создано: {overall_stats['created']}, "
|
||||||
|
f"Обновлено: {overall_stats['updated']}, "
|
||||||
|
f"Ошибок: {len(overall_stats['errors'])}"
|
||||||
|
)
|
||||||
|
|
||||||
|
if update_progress:
|
||||||
|
update_progress(
|
||||||
|
overall_stats['processed_satellites'],
|
||||||
|
overall_stats['total_satellites'],
|
||||||
|
"Завершено",
|
||||||
|
{
|
||||||
|
"created": overall_stats['created'],
|
||||||
|
"updated": overall_stats['updated'],
|
||||||
|
"errors_count": len(overall_stats['errors'])
|
||||||
|
}
|
||||||
|
)
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
error_msg = f"Критическая ошибка: {str(e)}"
|
||||||
|
logger.error(f"{log_prefix} {error_msg}", exc_info=True)
|
||||||
|
overall_stats['errors'].append(error_msg)
|
||||||
|
|
||||||
|
return overall_stats
|
||||||
|
|
||||||
|
|
||||||
|
def clear_lyngsat_cache(cache_type: str = "all") -> dict:
|
||||||
|
"""
|
||||||
|
Очищает кеш LyngSat.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
cache_type: Тип кеша для очистки ("regions", "satellites", "all")
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика очистки
|
||||||
|
"""
|
||||||
|
logger.info(f"Очистка кеша LyngSat: {cache_type}")
|
||||||
|
|
||||||
|
if cache_type == "all":
|
||||||
|
stats = AsyncLyngSatParser.clear_all_cache()
|
||||||
|
else:
|
||||||
|
stats = AsyncLyngSatParser.clear_cache(cache_type)
|
||||||
|
|
||||||
|
logger.info(f"Кеш очищен: {stats}")
|
||||||
|
return stats
|
||||||
0
dbapp/lyngsatapp/management/__init__.py
Normal file
0
dbapp/lyngsatapp/management/__init__.py
Normal file
0
dbapp/lyngsatapp/management/commands/__init__.py
Normal file
0
dbapp/lyngsatapp/management/commands/__init__.py
Normal file
40
dbapp/lyngsatapp/management/commands/clear_lyngsat_cache.py
Normal file
40
dbapp/lyngsatapp/management/commands/clear_lyngsat_cache.py
Normal file
@@ -0,0 +1,40 @@
|
|||||||
|
"""
|
||||||
|
Management команда для очистки кеша LyngSat.
|
||||||
|
"""
|
||||||
|
from django.core.management.base import BaseCommand
|
||||||
|
from lyngsatapp.async_utils import clear_lyngsat_cache
|
||||||
|
|
||||||
|
|
||||||
|
class Command(BaseCommand):
|
||||||
|
help = 'Очищает кеш данных LyngSat'
|
||||||
|
|
||||||
|
def add_arguments(self, parser):
|
||||||
|
parser.add_argument(
|
||||||
|
'--type',
|
||||||
|
type=str,
|
||||||
|
default='all',
|
||||||
|
choices=['regions', 'satellites', 'all'],
|
||||||
|
help='Тип кеша для очистки (regions, satellites, all)'
|
||||||
|
)
|
||||||
|
|
||||||
|
def handle(self, *args, **options):
|
||||||
|
cache_type = options['type']
|
||||||
|
|
||||||
|
self.stdout.write(f'Очистка кеша LyngSat: {cache_type}...')
|
||||||
|
|
||||||
|
stats = clear_lyngsat_cache(cache_type)
|
||||||
|
|
||||||
|
self.stdout.write(
|
||||||
|
self.style.SUCCESS(
|
||||||
|
f'Кеш очищен успешно! Удалено записей: {stats["cleared"]}'
|
||||||
|
)
|
||||||
|
)
|
||||||
|
|
||||||
|
if stats['errors']:
|
||||||
|
self.stdout.write(
|
||||||
|
self.style.WARNING(
|
||||||
|
f'Ошибок при очистке: {len(stats["errors"])}'
|
||||||
|
)
|
||||||
|
)
|
||||||
|
for error in stats['errors']:
|
||||||
|
self.stdout.write(self.style.ERROR(f' - {error}'))
|
||||||
@@ -6,14 +6,101 @@ from celery import shared_task
|
|||||||
from django.core.cache import cache
|
from django.core.cache import cache
|
||||||
|
|
||||||
from .utils import fill_lyngsat_data
|
from .utils import fill_lyngsat_data
|
||||||
|
from .async_utils import fill_lyngsat_data_async, clear_lyngsat_cache
|
||||||
|
|
||||||
logger = logging.getLogger(__name__)
|
logger = logging.getLogger(__name__)
|
||||||
|
|
||||||
|
|
||||||
@shared_task(bind=True, name='lyngsatapp.fill_lyngsat_data_async')
|
@shared_task(bind=True, name='lyngsatapp.fill_lyngsat_data_async')
|
||||||
def fill_lyngsat_data_task(self, target_sats, regions=None):
|
def fill_lyngsat_data_task(self, target_sats, regions=None, force_refresh=False, use_cache=True):
|
||||||
"""
|
"""
|
||||||
Асинхронная задача для заполнения данных Lyngsat.
|
Асинхронная задача для заполнения данных Lyngsat с кешированием.
|
||||||
|
Обрабатывает спутники по одному.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
target_sats: Список названий спутников для обработки
|
||||||
|
regions: Список регионов для парсинга (по умолчанию все)
|
||||||
|
force_refresh: Принудительно обновить кеш
|
||||||
|
use_cache: Использовать ли кеширование
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика обработки
|
||||||
|
"""
|
||||||
|
task_id = self.request.id
|
||||||
|
logger.info(f"[Task {task_id}] Начало обработки данных Lyngsat")
|
||||||
|
logger.info(f"[Task {task_id}] Спутники: {', '.join(target_sats)}")
|
||||||
|
logger.info(f"[Task {task_id}] Регионы: {', '.join(regions) if regions else 'все'}")
|
||||||
|
logger.info(f"[Task {task_id}] Кеширование: {use_cache}, Принудительное обновление: {force_refresh}")
|
||||||
|
|
||||||
|
# Обновляем статус задачи
|
||||||
|
self.update_state(
|
||||||
|
state='PROGRESS',
|
||||||
|
meta={
|
||||||
|
'current': 0,
|
||||||
|
'total': len(target_sats),
|
||||||
|
'status': 'Инициализация...',
|
||||||
|
'details': {}
|
||||||
|
}
|
||||||
|
)
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Вызываем асинхронную функцию заполнения данных
|
||||||
|
stats = fill_lyngsat_data_async(
|
||||||
|
target_sats=target_sats,
|
||||||
|
regions=regions,
|
||||||
|
task_id=task_id,
|
||||||
|
force_refresh=force_refresh,
|
||||||
|
use_cache=use_cache,
|
||||||
|
update_progress=lambda current, total, status, details: self.update_state(
|
||||||
|
state='PROGRESS',
|
||||||
|
meta={
|
||||||
|
'current': current,
|
||||||
|
'total': total,
|
||||||
|
'status': status,
|
||||||
|
'details': details
|
||||||
|
}
|
||||||
|
)
|
||||||
|
)
|
||||||
|
|
||||||
|
logger.info(f"[Task {task_id}] Обработка завершена успешно")
|
||||||
|
logger.info(f"[Task {task_id}] Статистика: {stats}")
|
||||||
|
|
||||||
|
# Сохраняем результат в кеш для отображения на странице
|
||||||
|
cache.set(f'lyngsat_task_{task_id}', stats, timeout=3600)
|
||||||
|
|
||||||
|
return stats
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"[Task {task_id}] Ошибка при обработке: {str(e)}", exc_info=True)
|
||||||
|
error_message = f"{type(e).__name__}: {str(e)}"
|
||||||
|
self.update_state(
|
||||||
|
state='FAILURE',
|
||||||
|
meta={
|
||||||
|
'error': error_message,
|
||||||
|
'status': 'Ошибка при обработке',
|
||||||
|
'details': {},
|
||||||
|
'exc_type': type(e).__name__,
|
||||||
|
'exc_message': str(e)
|
||||||
|
}
|
||||||
|
)
|
||||||
|
# Возвращаем словарь с ошибкой вместо raise для корректной сериализации
|
||||||
|
return {
|
||||||
|
'error': error_message,
|
||||||
|
'status': 'FAILURE',
|
||||||
|
'total_satellites': 0,
|
||||||
|
'processed_satellites': 0,
|
||||||
|
'total_sources': 0,
|
||||||
|
'created': 0,
|
||||||
|
'updated': 0,
|
||||||
|
'errors': [error_message]
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
@shared_task(bind=True, name='lyngsatapp.fill_lyngsat_data_sync')
|
||||||
|
def fill_lyngsat_data_task_sync(self, target_sats, regions=None):
|
||||||
|
"""
|
||||||
|
Синхронная задача для заполнения данных Lyngsat (старая версия без кеширования).
|
||||||
|
Используется для обратной совместимости.
|
||||||
|
|
||||||
Args:
|
Args:
|
||||||
target_sats: Список названий спутников для обработки
|
target_sats: Список названий спутников для обработки
|
||||||
@@ -23,7 +110,7 @@ def fill_lyngsat_data_task(self, target_sats, regions=None):
|
|||||||
dict: Статистика обработки
|
dict: Статистика обработки
|
||||||
"""
|
"""
|
||||||
task_id = self.request.id
|
task_id = self.request.id
|
||||||
logger.info(f"[Task {task_id}] Начало обработки данных Lyngsat")
|
logger.info(f"[Task {task_id}] Начало синхронной обработки данных Lyngsat")
|
||||||
logger.info(f"[Task {task_id}] Спутники: {', '.join(target_sats)}")
|
logger.info(f"[Task {task_id}] Спутники: {', '.join(target_sats)}")
|
||||||
logger.info(f"[Task {task_id}] Регионы: {', '.join(regions) if regions else 'все'}")
|
logger.info(f"[Task {task_id}] Регионы: {', '.join(regions) if regions else 'все'}")
|
||||||
|
|
||||||
@@ -38,7 +125,7 @@ def fill_lyngsat_data_task(self, target_sats, regions=None):
|
|||||||
)
|
)
|
||||||
|
|
||||||
try:
|
try:
|
||||||
# Вызываем функцию заполнения данных
|
# Вызываем старую функцию заполнения данных
|
||||||
stats = fill_lyngsat_data(
|
stats = fill_lyngsat_data(
|
||||||
target_sats=target_sats,
|
target_sats=target_sats,
|
||||||
regions=regions,
|
regions=regions,
|
||||||
@@ -63,11 +150,52 @@ def fill_lyngsat_data_task(self, target_sats, regions=None):
|
|||||||
|
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
logger.error(f"[Task {task_id}] Ошибка при обработке: {str(e)}", exc_info=True)
|
logger.error(f"[Task {task_id}] Ошибка при обработке: {str(e)}", exc_info=True)
|
||||||
|
error_message = f"{type(e).__name__}: {str(e)}"
|
||||||
self.update_state(
|
self.update_state(
|
||||||
state='FAILURE',
|
state='FAILURE',
|
||||||
meta={
|
meta={
|
||||||
'error': str(e),
|
'error': error_message,
|
||||||
'status': 'Ошибка при обработке'
|
'status': 'Ошибка при обработке',
|
||||||
|
'exc_type': type(e).__name__,
|
||||||
|
'exc_message': str(e)
|
||||||
}
|
}
|
||||||
)
|
)
|
||||||
raise
|
# Возвращаем словарь с ошибкой вместо raise для корректной сериализации
|
||||||
|
return {
|
||||||
|
'error': error_message,
|
||||||
|
'status': 'FAILURE',
|
||||||
|
'total_satellites': 0,
|
||||||
|
'total_sources': 0,
|
||||||
|
'created': 0,
|
||||||
|
'updated': 0,
|
||||||
|
'errors': [error_message]
|
||||||
|
}
|
||||||
|
|
||||||
|
|
||||||
|
@shared_task(bind=True, name='lyngsatapp.clear_cache')
|
||||||
|
def clear_cache_task(self, cache_type='all'):
|
||||||
|
"""
|
||||||
|
Задача для очистки кеша LyngSat.
|
||||||
|
|
||||||
|
Args:
|
||||||
|
cache_type: Тип кеша для очистки ("regions", "satellites", "all")
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
dict: Статистика очистки
|
||||||
|
"""
|
||||||
|
task_id = self.request.id
|
||||||
|
logger.info(f"[Task {task_id}] Запуск задачи очистки кеша: {cache_type}")
|
||||||
|
|
||||||
|
try:
|
||||||
|
stats = clear_lyngsat_cache(cache_type)
|
||||||
|
logger.info(f"[Task {task_id}] Кеш очищен успешно: {stats}")
|
||||||
|
return stats
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"[Task {task_id}] Ошибка при очистке кеша: {str(e)}", exc_info=True)
|
||||||
|
error_message = f"{type(e).__name__}: {str(e)}"
|
||||||
|
return {
|
||||||
|
'error': error_message,
|
||||||
|
'status': 'FAILURE',
|
||||||
|
'cleared': 0,
|
||||||
|
'errors': [error_message]
|
||||||
|
}
|
||||||
|
|||||||
@@ -110,7 +110,7 @@ class NewEventForm(forms.Form):
|
|||||||
|
|
||||||
|
|
||||||
class FillLyngsatDataForm(forms.Form):
|
class FillLyngsatDataForm(forms.Form):
|
||||||
"""Форма для заполнения данных из Lyngsat"""
|
"""Форма для заполнения данных из Lyngsat с поддержкой кеширования"""
|
||||||
|
|
||||||
REGION_CHOICES = [
|
REGION_CHOICES = [
|
||||||
('europe', 'Европа'),
|
('europe', 'Европа'),
|
||||||
@@ -141,6 +141,26 @@ class FillLyngsatDataForm(forms.Form):
|
|||||||
initial=['europe', 'asia', 'america', 'atlantic'],
|
initial=['europe', 'asia', 'america', 'atlantic'],
|
||||||
help_text="Удерживайте Ctrl (Cmd на Mac) для выбора нескольких регионов"
|
help_text="Удерживайте Ctrl (Cmd на Mac) для выбора нескольких регионов"
|
||||||
)
|
)
|
||||||
|
|
||||||
|
use_cache = forms.BooleanField(
|
||||||
|
label="Использовать кеширование",
|
||||||
|
required=False,
|
||||||
|
initial=True,
|
||||||
|
widget=forms.CheckboxInput(attrs={
|
||||||
|
'class': 'form-check-input'
|
||||||
|
}),
|
||||||
|
help_text="Использовать кешированные данные (ускоряет повторные запросы)"
|
||||||
|
)
|
||||||
|
|
||||||
|
force_refresh = forms.BooleanField(
|
||||||
|
label="Принудительно обновить данные",
|
||||||
|
required=False,
|
||||||
|
initial=False,
|
||||||
|
widget=forms.CheckboxInput(attrs={
|
||||||
|
'class': 'form-check-input'
|
||||||
|
}),
|
||||||
|
help_text="Игнорировать кеш и получить свежие данные с сайта"
|
||||||
|
)
|
||||||
class ParameterForm(forms.ModelForm):
|
class ParameterForm(forms.ModelForm):
|
||||||
"""
|
"""
|
||||||
Форма для создания и редактирования параметров ВЧ загрузки.
|
Форма для создания и редактирования параметров ВЧ загрузки.
|
||||||
|
|||||||
113
dbapp/mainapp/templates/mainapp/clear_lyngsat_cache.html
Normal file
113
dbapp/mainapp/templates/mainapp/clear_lyngsat_cache.html
Normal file
@@ -0,0 +1,113 @@
|
|||||||
|
{% extends 'mainapp/base.html' %}
|
||||||
|
{% load static %}
|
||||||
|
|
||||||
|
{% block title %}Управление кешем LyngSat{% endblock %}
|
||||||
|
|
||||||
|
{% block content %}
|
||||||
|
<div class="container mt-4">
|
||||||
|
<div class="row">
|
||||||
|
<div class="col-md-8 offset-md-2">
|
||||||
|
<div class="card">
|
||||||
|
<div class="card-header bg-primary text-white">
|
||||||
|
<h4 class="mb-0">
|
||||||
|
<i class="bi bi-database"></i> Управление кешем LyngSat
|
||||||
|
</h4>
|
||||||
|
</div>
|
||||||
|
<div class="card-body">
|
||||||
|
<div class="alert alert-info">
|
||||||
|
<h5><i class="bi bi-info-circle"></i> Информация о кешировании</h5>
|
||||||
|
<ul class="mb-0">
|
||||||
|
<li><strong>Страницы регионов:</strong> кешируются на 7 дней</li>
|
||||||
|
<li><strong>Данные спутников:</strong> кешируются на 1 день</li>
|
||||||
|
<li><strong>Списки спутников:</strong> кешируются на 7 дней</li>
|
||||||
|
</ul>
|
||||||
|
</div>
|
||||||
|
|
||||||
|
<h5 class="mt-4">Очистка кеша</h5>
|
||||||
|
<p class="text-muted">
|
||||||
|
Выберите тип кеша для очистки. Это полезно, если нужно принудительно обновить данные.
|
||||||
|
</p>
|
||||||
|
|
||||||
|
<form method="post" class="mt-3">
|
||||||
|
{% csrf_token %}
|
||||||
|
|
||||||
|
<div class="mb-3">
|
||||||
|
<label class="form-label">Тип кеша для очистки:</label>
|
||||||
|
|
||||||
|
<div class="list-group">
|
||||||
|
<button type="submit" name="cache_type" value="all"
|
||||||
|
class="list-group-item list-group-item-action">
|
||||||
|
<div class="d-flex w-100 justify-content-between">
|
||||||
|
<h6 class="mb-1">
|
||||||
|
<i class="bi bi-trash"></i> Очистить весь кеш
|
||||||
|
</h6>
|
||||||
|
</div>
|
||||||
|
<p class="mb-1 text-muted small">
|
||||||
|
Удалить все кешированные данные LyngSat (регионы, спутники, списки)
|
||||||
|
</p>
|
||||||
|
</button>
|
||||||
|
|
||||||
|
<button type="submit" name="cache_type" value="regions"
|
||||||
|
class="list-group-item list-group-item-action">
|
||||||
|
<div class="d-flex w-100 justify-content-between">
|
||||||
|
<h6 class="mb-1">
|
||||||
|
<i class="bi bi-globe"></i> Очистить кеш регионов
|
||||||
|
</h6>
|
||||||
|
</div>
|
||||||
|
<p class="mb-1 text-muted small">
|
||||||
|
Удалить кешированные страницы регионов (Europe, Asia, America, Atlantic)
|
||||||
|
</p>
|
||||||
|
</button>
|
||||||
|
|
||||||
|
<button type="submit" name="cache_type" value="satellites"
|
||||||
|
class="list-group-item list-group-item-action">
|
||||||
|
<div class="d-flex w-100 justify-content-between">
|
||||||
|
<h6 class="mb-1">
|
||||||
|
<i class="bi bi-satellite"></i> Очистить кеш спутников
|
||||||
|
</h6>
|
||||||
|
</div>
|
||||||
|
<p class="mb-1 text-muted small">
|
||||||
|
Удалить кешированные данные отдельных спутников
|
||||||
|
</p>
|
||||||
|
</button>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</form>
|
||||||
|
|
||||||
|
<hr>
|
||||||
|
|
||||||
|
<div class="alert alert-warning">
|
||||||
|
<h6><i class="bi bi-exclamation-triangle"></i> Внимание</h6>
|
||||||
|
<p class="mb-0 small">
|
||||||
|
После очистки кеша следующий запрос данных будет выполняться дольше,
|
||||||
|
так как данные будут загружаться заново с сайта LyngSat.
|
||||||
|
</p>
|
||||||
|
</div>
|
||||||
|
|
||||||
|
<div class="mt-3">
|
||||||
|
<a href="{% url 'mainapp:fill_lyngsat_data' %}" class="btn btn-secondary">
|
||||||
|
<i class="bi bi-arrow-left"></i> Назад к заполнению данных
|
||||||
|
</a>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
|
||||||
|
<div class="card mt-3">
|
||||||
|
<div class="card-header">
|
||||||
|
<h5 class="mb-0">
|
||||||
|
<i class="bi bi-terminal"></i> Альтернативные способы очистки
|
||||||
|
</h5>
|
||||||
|
</div>
|
||||||
|
<div class="card-body">
|
||||||
|
<h6>Через Django Management команду:</h6>
|
||||||
|
<pre class="bg-dark text-light p-3 rounded"><code>python manage.py clear_lyngsat_cache --type all</code></pre>
|
||||||
|
|
||||||
|
<h6 class="mt-3">Через Redis CLI:</h6>
|
||||||
|
<pre class="bg-dark text-light p-3 rounded"><code>redis-cli keys "dbapp:lyngsat*"
|
||||||
|
redis-cli del "dbapp:lyngsat_region:europe"</code></pre>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
{% endblock %}
|
||||||
@@ -60,6 +60,42 @@
|
|||||||
{% endif %}
|
{% endif %}
|
||||||
</div>
|
</div>
|
||||||
|
|
||||||
|
<!-- Cache Options -->
|
||||||
|
<div class="card mb-4 border-info">
|
||||||
|
<div class="card-header bg-info bg-opacity-10">
|
||||||
|
<h6 class="mb-0">
|
||||||
|
<i class="bi bi-database"></i> Настройки кеширования
|
||||||
|
</h6>
|
||||||
|
</div>
|
||||||
|
<div class="card-body">
|
||||||
|
<div class="form-check mb-2">
|
||||||
|
{{ form.use_cache }}
|
||||||
|
<label class="form-check-label" for="{{ form.use_cache.id_for_label }}">
|
||||||
|
{{ form.use_cache.label }}
|
||||||
|
</label>
|
||||||
|
{% if form.use_cache.help_text %}
|
||||||
|
<div class="form-text">{{ form.use_cache.help_text }}</div>
|
||||||
|
{% endif %}
|
||||||
|
</div>
|
||||||
|
|
||||||
|
<div class="form-check">
|
||||||
|
{{ form.force_refresh }}
|
||||||
|
<label class="form-check-label" for="{{ form.force_refresh.id_for_label }}">
|
||||||
|
{{ form.force_refresh.label }}
|
||||||
|
</label>
|
||||||
|
{% if form.force_refresh.help_text %}
|
||||||
|
<div class="form-text">{{ form.force_refresh.help_text }}</div>
|
||||||
|
{% endif %}
|
||||||
|
</div>
|
||||||
|
|
||||||
|
<div class="mt-3">
|
||||||
|
<a href="{% url 'mainapp:clear_lyngsat_cache' %}" class="btn btn-sm btn-outline-warning">
|
||||||
|
<i class="bi bi-trash"></i> Управление кешем
|
||||||
|
</a>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
</div>
|
||||||
|
|
||||||
<!-- Buttons -->
|
<!-- Buttons -->
|
||||||
<div class="d-grid gap-2 d-md-flex justify-content-md-between">
|
<div class="d-grid gap-2 d-md-flex justify-content-md-between">
|
||||||
<a href="{% url 'mainapp:actions' %}" class="btn btn-secondary">
|
<a href="{% url 'mainapp:actions' %}" class="btn btn-secondary">
|
||||||
|
|||||||
@@ -29,4 +29,5 @@ urlpatterns = [
|
|||||||
path('lyngsat-task-status/', views.LyngsatTaskStatusView.as_view(), name='lyngsat_task_status'),
|
path('lyngsat-task-status/', views.LyngsatTaskStatusView.as_view(), name='lyngsat_task_status'),
|
||||||
path('lyngsat-task-status/<str:task_id>/', views.LyngsatTaskStatusView.as_view(), name='lyngsat_task_status'),
|
path('lyngsat-task-status/<str:task_id>/', views.LyngsatTaskStatusView.as_view(), name='lyngsat_task_status'),
|
||||||
path('api/lyngsat-task-status/<str:task_id>/', views.LyngsatTaskStatusAPIView.as_view(), name='lyngsat_task_status_api'),
|
path('api/lyngsat-task-status/<str:task_id>/', views.LyngsatTaskStatusAPIView.as_view(), name='lyngsat_task_status_api'),
|
||||||
|
path('clear-lyngsat-cache/', views.ClearLyngsatCacheView.as_view(), name='clear_lyngsat_cache'),
|
||||||
]
|
]
|
||||||
@@ -1047,6 +1047,8 @@ class FillLyngsatDataView(LoginRequiredMixin, FormMessageMixin, FormView):
|
|||||||
def form_valid(self, form):
|
def form_valid(self, form):
|
||||||
satellites = form.cleaned_data["satellites"]
|
satellites = form.cleaned_data["satellites"]
|
||||||
regions = form.cleaned_data["regions"]
|
regions = form.cleaned_data["regions"]
|
||||||
|
use_cache = form.cleaned_data.get("use_cache", True)
|
||||||
|
force_refresh = form.cleaned_data.get("force_refresh", False)
|
||||||
|
|
||||||
# Получаем названия спутников
|
# Получаем названия спутников
|
||||||
target_sats = [sat.name for sat in satellites]
|
target_sats = [sat.name for sat in satellites]
|
||||||
@@ -1054,12 +1056,19 @@ class FillLyngsatDataView(LoginRequiredMixin, FormMessageMixin, FormView):
|
|||||||
try:
|
try:
|
||||||
from lyngsatapp.tasks import fill_lyngsat_data_task
|
from lyngsatapp.tasks import fill_lyngsat_data_task
|
||||||
|
|
||||||
# Запускаем асинхронную задачу
|
# Запускаем асинхронную задачу с параметрами кеширования
|
||||||
task = fill_lyngsat_data_task.delay(target_sats, regions)
|
task = fill_lyngsat_data_task.delay(
|
||||||
|
target_sats,
|
||||||
|
regions,
|
||||||
|
force_refresh=force_refresh,
|
||||||
|
use_cache=use_cache
|
||||||
|
)
|
||||||
|
|
||||||
|
cache_status = "без кеша" if not use_cache else ("с обновлением кеша" if force_refresh else "с кешированием")
|
||||||
|
|
||||||
messages.success(
|
messages.success(
|
||||||
self.request,
|
self.request,
|
||||||
f"Задача запущена! ID задачи: {task.id}. "
|
f"Задача запущена ({cache_status})! ID задачи: {task.id}. "
|
||||||
"Вы будете перенаправлены на страницу отслеживания прогресса."
|
"Вы будете перенаправлены на страницу отслеживания прогресса."
|
||||||
)
|
)
|
||||||
|
|
||||||
@@ -1124,3 +1133,30 @@ class LyngsatTaskStatusAPIView(LoginRequiredMixin, View):
|
|||||||
response_data['status'] = task.state
|
response_data['status'] = task.state
|
||||||
|
|
||||||
return JsonResponse(response_data)
|
return JsonResponse(response_data)
|
||||||
|
|
||||||
|
|
||||||
|
class ClearLyngsatCacheView(LoginRequiredMixin, View):
|
||||||
|
"""
|
||||||
|
Представление для очистки кеша LyngSat.
|
||||||
|
"""
|
||||||
|
def post(self, request):
|
||||||
|
from lyngsatapp.tasks import clear_cache_task
|
||||||
|
|
||||||
|
cache_type = request.POST.get('cache_type', 'all')
|
||||||
|
|
||||||
|
try:
|
||||||
|
# Запускаем задачу очистки кеша
|
||||||
|
task = clear_cache_task.delay(cache_type)
|
||||||
|
|
||||||
|
messages.success(
|
||||||
|
request,
|
||||||
|
f"Задача очистки кеша ({cache_type}) запущена! ID задачи: {task.id}"
|
||||||
|
)
|
||||||
|
except Exception as e:
|
||||||
|
messages.error(request, f"Ошибка при запуске задачи очистки кеша: {str(e)}")
|
||||||
|
|
||||||
|
return redirect(request.META.get('HTTP_REFERER', 'mainapp:home'))
|
||||||
|
|
||||||
|
def get(self, request):
|
||||||
|
"""Страница управления кешем"""
|
||||||
|
return render(request, 'mainapp/clear_lyngsat_cache.html')
|
||||||
|
|||||||
@@ -35,6 +35,7 @@ dependencies = [
|
|||||||
"psycopg>=3.2.10",
|
"psycopg>=3.2.10",
|
||||||
"psycopg2-binary>=2.9.11",
|
"psycopg2-binary>=2.9.11",
|
||||||
"redis>=6.4.0",
|
"redis>=6.4.0",
|
||||||
|
"django-redis>=5.4.0",
|
||||||
"requests>=2.32.5",
|
"requests>=2.32.5",
|
||||||
"reverse-geocoder>=1.5.1",
|
"reverse-geocoder>=1.5.1",
|
||||||
"scikit-learn>=1.7.2",
|
"scikit-learn>=1.7.2",
|
||||||
|
|||||||
15
dbapp/uv.lock
generated
15
dbapp/uv.lock
generated
@@ -368,6 +368,7 @@ dependencies = [
|
|||||||
{ name = "django-leaflet" },
|
{ name = "django-leaflet" },
|
||||||
{ name = "django-map-widgets" },
|
{ name = "django-map-widgets" },
|
||||||
{ name = "django-more-admin-filters" },
|
{ name = "django-more-admin-filters" },
|
||||||
|
{ name = "django-redis" },
|
||||||
{ name = "dotenv" },
|
{ name = "dotenv" },
|
||||||
{ name = "flower" },
|
{ name = "flower" },
|
||||||
{ name = "geopy" },
|
{ name = "geopy" },
|
||||||
@@ -407,6 +408,7 @@ requires-dist = [
|
|||||||
{ name = "django-leaflet", specifier = ">=0.32.0" },
|
{ name = "django-leaflet", specifier = ">=0.32.0" },
|
||||||
{ name = "django-map-widgets", specifier = ">=0.5.1" },
|
{ name = "django-map-widgets", specifier = ">=0.5.1" },
|
||||||
{ name = "django-more-admin-filters", specifier = ">=1.13" },
|
{ name = "django-more-admin-filters", specifier = ">=1.13" },
|
||||||
|
{ name = "django-redis", specifier = ">=5.4.0" },
|
||||||
{ name = "dotenv", specifier = ">=0.9.9" },
|
{ name = "dotenv", specifier = ">=0.9.9" },
|
||||||
{ name = "flower", specifier = ">=2.0.1" },
|
{ name = "flower", specifier = ">=2.0.1" },
|
||||||
{ name = "geopy", specifier = ">=2.4.1" },
|
{ name = "geopy", specifier = ">=2.4.1" },
|
||||||
@@ -615,6 +617,19 @@ wheels = [
|
|||||||
{ url = "https://files.pythonhosted.org/packages/87/7c/4b261b96b357d94ef267f39856ef0bb72a33f078a38bd22ee96d168fe272/django_more_admin_filters-1.13-py3-none-any.whl", hash = "sha256:df4d46e4b589566b85f149ea5b7558c6cc4ae22b0d264973f8d4a2d478ef5120", size = 147360, upload-time = "2025-06-06T11:26:42.964Z" },
|
{ url = "https://files.pythonhosted.org/packages/87/7c/4b261b96b357d94ef267f39856ef0bb72a33f078a38bd22ee96d168fe272/django_more_admin_filters-1.13-py3-none-any.whl", hash = "sha256:df4d46e4b589566b85f149ea5b7558c6cc4ae22b0d264973f8d4a2d478ef5120", size = 147360, upload-time = "2025-06-06T11:26:42.964Z" },
|
||||||
]
|
]
|
||||||
|
|
||||||
|
[[package]]
|
||||||
|
name = "django-redis"
|
||||||
|
version = "6.0.0"
|
||||||
|
source = { registry = "https://pypi.org/simple" }
|
||||||
|
dependencies = [
|
||||||
|
{ name = "django" },
|
||||||
|
{ name = "redis" },
|
||||||
|
]
|
||||||
|
sdist = { url = "https://files.pythonhosted.org/packages/08/53/dbcfa1e528e0d6c39947092625b2c89274b5d88f14d357cee53c4d6dbbd4/django_redis-6.0.0.tar.gz", hash = "sha256:2d9cb12a20424a4c4dde082c6122f486628bae2d9c2bee4c0126a4de7fda00dd", size = 56904, upload-time = "2025-06-17T18:15:46.376Z" }
|
||||||
|
wheels = [
|
||||||
|
{ url = "https://files.pythonhosted.org/packages/7e/79/055dfcc508cfe9f439d9f453741188d633efa9eab90fc78a67b0ab50b137/django_redis-6.0.0-py3-none-any.whl", hash = "sha256:20bf0063a8abee567eb5f77f375143c32810c8700c0674ced34737f8de4e36c0", size = 33687, upload-time = "2025-06-17T18:15:34.165Z" },
|
||||||
|
]
|
||||||
|
|
||||||
[[package]]
|
[[package]]
|
||||||
name = "django-timezone-field"
|
name = "django-timezone-field"
|
||||||
version = "7.1"
|
version = "7.1"
|
||||||
|
|||||||
Reference in New Issue
Block a user