Nvidia выпустила автономного чат-бота с ИИ, работающего на ее чипах

Москва. 13 февраля. INTERFAX.RU - Американская Nvidia Corp. во вторник сделала доступным для широкой публики чат-бота Chat with RTX на основе генеративного (создающего контент и используемого, например, в ChatGPT) искусственного интеллекта (ИИ).

Чат-бот распространяется бесплатно в виде технологического демо, работает локально на компьютерах под управлением операционной системы Windows 10 или 11 и требует наличия графического ускорителя Nvidia GeForce RTX 30-й или 40-й серии не менее чем с 8 Гб памяти.

"Не используя большие языковые модели (лежащие в основе инструментов генеративного ИИ - ИФ) в облачных сервисах, Chat with RTX позволяет пользователям обрабатывать конфиденциальную информацию на локальном ПК без необходимости делиться ею с третьими лицами и выходить в интернет", - говорится в сообщении компании.

К чат-боту можно подключать ИИ-модели с открытым исходным кодом, например Llama 2 разработки Meta (признана в РФ экстремистской организацией и запрещена).

Chat with RTX может обрабатывать видео с YouTube и локальные файлы различных форматов, включая TXT, PDF, DOC и DOCX, а пользователи - задавать ему вопросы об информации из них, например: "Какой ресторан посоветовал мне спутник (или спутница), когда мы были в Лас-Вегасе?".

Издание несколько дней тестировало технологию на ускорителе RTX 4090 и подтверждает, что ответы точны и даются практически мгновенно.

window.yaContextCb.push( function () { Ya.adfoxCode.createAdaptive({ ownerId: 173858, containerId: 'adfox_151179074300466320', params: { p1: 'csljp', p2: 'hjrx', puid1: '', puid2: '', puid3: '' } }, ['tablet', 'phone'], { tabletWidth: 1023, phoneWidth: 639, isAutoReloads: false }); setTimeout(function() { if (document.querySelector('[id="adfox_151179074300466320"] [id^="adfox_"]')) { // console.log("вложенные баннеры"); document.querySelector("#adfox_151179074300466320").style.display = "none"; } }, 1000); });