Skip to content

NeuroCoderZ/holograms.media

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

79 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

🎭 Holograms.Media

License Node.js Python Three.js

Инновационная платформа для создания и взаимодействия с голографическими медиа через естественные жесты и голос

Holograms.Media - это полнофункциональное веб-приложение, которое сочетает передовые технологии 3D-визуализации, машинного обучения и естественного взаимодействия человека с компьютером. Проект создает мост между традиционными медиа и иммерсивными голографическими технологиями.

✨ Возможности

🎨 3D-Визуализация в Реальном Времени

  • Динамические голограммы: Создание и визуализация 3D-объектов с использованием Three.js и WebGL
  • Аудио-реактивность: Визуализация звука в реальном времени с помощью непрерывно��о вейвлет-преобразования (CWT)
  • WebAssembly: Высокопроизводительная обработка аудио с использованием Rust/WASM

🤖 Искусственный Интеллект

  • Самообучающийся AI-ассистент "Триа": Интеллектуальный помощник на базе Mistral LLM
  • Распознавание жестов: Управление через MediaPipe Hands с поддержкой TensorFlow.js
  • Мультимодальный ввод: Голосовое управление через Web Speech API

🌐 Современная Архитектура

  • P2P-обмен данными: WebRTC для прямого обмена между клиентами
  • Масштабируемый бэкенд: FastAPI на Python с развертыванием на Koyeb
  • Облачное хранение: Backblaze B2 и Astra Database (Cassandra)
  • CDN: Cloudflare Pages для быстрой доставки контента

🏗️ Архитектура Проекта

holograms.media/
├── 📁 js/                    # Frontend JavaScript модули
│   ├── core/                # Ядро приложения
│   ├── 3d/                  # 3D-рендеринг (Three.js)
│   ├── audio/               # Аудио обработка и анализ
│   ├── multimodal/          # Мультимодальный ввод
│   ├── ai/                  # AI интеграции
│   └── services/            # Внешние сервисы
├── 📁 backend/              # Python FastAPI бэкенд
│   ├── api/                 # REST API эндпоинты
│   ├── core/                # Бизнес-логика
│   ├── services/            # Сервисы (AI, хранение)
│   └── tria_bots/           # AI-боты
├── 📁 css/                  # Стили приложения
├── 📁 docs/                 # Документация
└── 📁 public/               # Статические ресурсы

🚀 Быстрый Старт

Предварительные Требования

  • Node.js 18+ и npm
  • Python 3.9+ с pip
  • Git для клонирования репозитория

Установка и Запуск

  1. Клонируйте репозиторий:

    git clone https://github.com/NeuroCoderZ/holograms.media.git
    cd holograms.media
  2. Установите зависимости:

    # Frontend зависимости
    npm install
    
    # Backend зависимости
    cd backend
    pip install -r requirements.txt
    cd ..
  3. Запустите приложение:

    # Frontend (в одном терминале)
    npm run dev
    
    # Backend (в другом терминале)
    cd backend
    python -m uvicorn main:app --reload
  4. Откройте браузер: Перейдите на http://localhost:5173 для доступа к приложению

🎯 Ключевые Функции

Визуализация Аудио

  • CWT-анализ: Непрерывное вейвлет-преобразование для точного анализа частот
  • Стерео-визуализация: Отдельная обработка левого и правого каналов
  • WebAssembly: Оптимизированная производительность с Rust

Управление Жестами

  • MediaPipe Hands: Распознавание ключевых точек рук в реальном времени
  • GestureIntentClassifier: Интеллектуальная классификация намерений
  • Естественное взаимодействие: Управление без клавиатуры и мыши

AI-Ассистент Триа

  • Контекстное обучение: Самосовершенствующийся AI
  • Мультимодальный ввод: Обработка текста, голоса и жестов
  • RAG-система: Семантический поиск по базе знаний

🛠️ Технологический Стек

Frontend

  • JavaScript ES6+ - Основной язык программирования
  • Three.js 0.165.0 - 3D-графика и WebGL
  • TensorFlow.js 2.8.6 - Машинное обучение в браузере
  • MediaPipe - Компьютерное зрение
  • WebRTC - P2P-коммуникации
  • @tweenjs/tween.js 23.1.1 - Анимации

Backend

  • FastAPI - Современный Python веб-фреймворк
  • Mistral AI - Языковая модель
  • Astra Database (Cassandra) - NoSQL база данных
  • WebRTC - P2P-сервер

DevOps & Инфраструктура

  • Cloudflare Pages - Хостинг и CDN
  • Koyeb - Вычисления и API
  • Backblaze B2 - Хранение файлов
  • Docker - Контейнеризация
  • Vite 7.0.2 - Сборщик и dev-сервер

📚 Документация

Подробная документация доступна в папке docs/:

🤝 Вклад в Проект

Мы приветствуем вклад сообщества! Вот как вы можете помочь:

  1. Fork репозиторий
  2. Создайте feature branch (git checkout -b feature/amazing-feature)
  3. Commit изменения (git commit -m 'Add amazing feature')
  4. Push в branch (git push origin feature/amazing-feature)
  5. Откройте Pull Request

Требования к коду

  • Следуйте принципам SOLID и DRY
  • Используйте ES6+ синтаксис
  • Добавляйте JSDoc комментарии на русском языке
  • Соблюдайте максимальную длину строки 120 символов

📄 Лицензия

Этот проект распространяется под лицензией MIT. Подробности в файле LICENSE.

🙏 Благодарности

  • Three.js за невероятную 3D-библиотеку
  • MediaPipe за инструменты компьютерного зрения
  • Mistral AI за мощную языковую модель
  • Cloudflare за инфраструктуру и поддержку

📞 Контакты


🌟 Создавайте будущее вместе с нами! 🌟

Каждый вклад приближает нас к новой эре взаимодействия человека с технологиями

About

3D interactive sound visualizer with gesture control using and Web Audio API.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published