Одна видеокарта NVIDIA RTX 3090 может поддерживать работу чат-бота с ИИ для 1000 пользователей

Эстонский стартап Backprop доказал, что одна видеокарта NVIDIA RTX 3090 способна обслуживать более 1000 пользователей чат-бота на базе ИИ. Это открытие меняет представление о необходимой мощности для современных систем искусственного интеллекта.