NVIDIA току-що пусна безплатна демонстрация на chatbot, която се изпълнява локално на вашия компютър. Това е много удобно, защото дава на чатбота достъп до вашите файлове и документи. Можете да осигурите Чат с RTX определени лични данни и го помолете да създаде автобиография въз основа на тази информация. Можете също да му задавате въпроси, както бихте направили с всеки чатбот, и той ще се потопи във вашите данни за отговори.
Компанията казва, че позволява на потребителите "бързо и лесно да свързват локални компютърни файлове като набор от данни към голям езиков модел с отворен код като Mistral или Llama 2." NVIDIA дава пример за потребител, който пита чатбот за ресторант, препоръчан от партньор, докато е в Лас Вегас. Софтуерът сканира локални файлове, за да намери отговора. Той поддържа набор от файлови формати, включително .txt, .pdf, .doc, .docx и .xml. Компанията казва, че качва съответните файлове в своя набор от данни „за секунди“.
Чатът с RTX също интегрира видеоклипове и плейлисти YouTube. Можете да добавите URL адреса на видеоклипа към набора от данни и той ще интегрира знанията, съдържащи се във видеоклипа, за контекстни заявки. NVIDIA казва, че ще бъде полезно при искане на препоръки за пътуване „въз основа на съдържание от любими видеоклипове от влиятелни лица“ или при търсене на уроци и резюмета, извлечени от образователни ресурси.
Това звучи като голяма стъпка към нещо като истински цифров асистент, който работи в контекста на вашите лични данни. Повечето chatbots изпращат данни в облака, но Chat with RTX "позволява на потребителите да обработват чувствителни данни на локален компютър, без да се налага да ги споделят с трета страна или да имат интернет връзка." Така че комуникацията е по-безопасна и по-ориентирана към контекста.
Има някои ограничения. Това е демо продукт, така че очаквайте много грешки NVIDIA трябва да започне да ги поправя веднага щом потребителите започнат да пишат доклади за грешки и други подобни. Тук също има някои строги хардуерни ограничения. Чатът с RTX работи само на компютри с Windows 11 с GPU NVIDIA Серия GeForce RTX 30 или по-висока и поне 8 GB VRAM.
Наскоро NVIDIA наистина демонстрира своята AI мощ, тъй като компанията току-що пусна следващото си поколение AI суперкомпютърни чипове. Той просто печели печалби, главно благодарение на сегментите си с изкуствен интелект и центрове за данни.
Прочетете също: