Nvidia выпустила автономного чат-бота с ИИ, работающего на ее чипах

Москва. 13 февраля. INTERFAX.RU - Американская Nvidia Corp. во вторник сделала доступным для широкой публики чат-бота Chat with RTX на основе генеративного (создающего контент и используемого, например, в ChatGPT) искусственного интеллекта (ИИ).

Чат-бот распространяется бесплатно в виде технологического демо, работает локально на компьютерах под управлением операционной системы Windows 10 или 11 и требует наличия графического ускорителя Nvidia GeForce RTX 30-й или 40-й серии не менее чем с 8 Гб памяти.

"Не используя большие языковые модели (лежащие в основе инструментов генеративного ИИ - ИФ) в облачных сервисах, Chat with RTX позволяет пользователям обрабатывать конфиденциальную информацию на локальном ПК без необходимости делиться ею с третьими лицами и выходить в интернет", - говорится в сообщении компании.

К чат-боту можно подключать ИИ-модели с открытым исходным кодом, например Llama 2 разработки Meta (признана в РФ экстремистской организацией и запрещена).

Chat with RTX может обрабатывать видео с YouTube и локальные файлы различных форматов, включая TXT, PDF, DOC и DOCX, а пользователи - задавать ему вопросы об информации из них, например: "Какой ресторан посоветовал мне спутник (или спутница), когда мы были в Лас-Вегасе?".

Издание несколько дней тестировало технологию на ускорителе RTX 4090 и подтверждает, что ответы точны и даются практически мгновенно.