NVIDIA upravo je objavio besplatni chatbot demo koji radi lokalno na vašem računalu. Ovo je vrlo zgodno jer chatbotu daje pristup vašim datotekama i dokumentima. Možete pružiti Razgovarajte sa RTX-om određene lične podatke i zamolite ga da kreira životopis na osnovu tih informacija. Također mu možete postavljati pitanja kao i svakom chatbotu i on će zaroniti u vaše podatke za odgovore.
Kompanija kaže da omogućava korisnicima da "brzo i lako povežu lokalne PC fajlove kao skup podataka sa velikim jezičkim modelom otvorenog koda kao što su Mistral ili Llama 2." NVIDIA daje primjer korisnika koji pita chatbot o restoranu koji je preporučio partner dok je u Las Vegasu. Softver skenira lokalne datoteke kako bi pronašao odgovor. Podržava niz formata datoteka uključujući .txt, .pdf, .doc, .docx i .xml. Kompanija kaže da prenosi relevantne datoteke u svoj skup podataka "u sekundi".
Chat sa RTX-om također integrira video zapise i liste za reprodukciju YouTube. Možete dodati URL videozapisa u skup podataka i on će integrirati znanje sadržano u videu za kontekstualne upite. NVIDIA kaže da će biti korisno kada tražite preporuke za putovanja „na osnovu sadržaja iz omiljenih videozapisa influencera“ ili kada tražite tutorijale i sažetke izvedene iz obrazovnih izvora.
Ovo zvuči kao veliki korak ka nečemu poput pravog digitalnog asistenta koji radi u kontekstu vaših ličnih podataka. Većina chatbotova šalje podatke u oblak, ali Chat with RTX „dozvoljava korisnicima da obrađuju osjetljive podatke na lokalnom računaru bez potrebe da ih dijele sa trećom stranom ili imaju internetsku vezu“. Dakle, to je sigurnija i više kontekstno orijentirana komunikacija.
Postoje neka ograničenja. Ovo je demo proizvod pa očekujte puno grešaka NVIDIA trebalo bi ih početi popravljati čim korisnici počnu pisati izvještaje o greškama i slično. Ovdje također postoje neka stroga hardverska ograničenja. Chat sa RTX radi samo na Windows 11 računarima sa GPU-ovima NVIDIA GeForce RTX 30 serija ili novija i najmanje 8 GB VRAM-a.
Nedavno NVIDIA zaista pokazuje svoju AI snagu jer je kompanija upravo lansirala svoju sljedeću generaciju AI superkompjuterskih čipova. Jednostavno pliva u profitu, prvenstveno zahvaljujući segmentima AI i data centra.
Pročitajte također: