NVIDIA ChatRTX to chatbot AI, który można w pełni dostosować, począwszy od LLM wykorzystywanego po dane. Firma opisuje to jako sztuczną inteligencję, która umożliwia „czatowanie z plikami”, ponieważ można dostosowywać zestaw danych w różnych formatach plików, dokumentach, obrazach i innych danych. Najnowsza wersja aplikacji jest już dostępna, z minimalnymi i przejrzystymi zmianami interfejsu użytkownika, które podkreślają jej potężną moc.
2Nowy interfejs użytkownika ChatRTX został zbudowany przy użyciu platformy Electron + Material UI, źródło obrazu: NVIDIA.
ZOBACZ GALERIĘ – 2 ZDJĘCIA
Jak widać na zrzucie ekranu, nowy interfejs użytkownika (zbudowany przy użyciu frameworka Electron + Material UI) podkreśla dwa główne komponenty ChatRTX: model AI i dane. Co więcej, użytkownicy i programiści mogą dodawać własne elementy interfejsu użytkownika i rozszerzać funkcjonalność ChatRTX, korzystając z otwartego środowiska interfejsu użytkownika.
ChatRTx może korzystać z potężnych modeli sztucznej inteligencji w celu dostosowania i jako taki wymaga do działania co najmniej karty graficznej GeForce RTX 30 lub GeForce RTX 40 z co najmniej 8 GB pamięci VRAM.
ChatRTX znacznie się poprawił od czasu swojego debiutu; to nie było tak dawno temu obsługa obrazów i skrobania zdjęć bez skomplikowanych metadanych. Jednocześnie dodano rozpoznawanie mowy, dzięki czemu nie musisz wpisywać zapytania. Zatem tak, możesz dosłownie „rozmawiać ze swoimi plikami”, jak to ujęła NVIDIA.
Najnowsza aktualizacja zawiera także „nową architekturę”, która umożliwia programistom tworzenie nowych aplikacji do czatowania w oparciu o backend ChatRTX. Ponadto dostępna jest obsługa generacji wspomaganej wyszukiwaniem (RAG), która poprawia wydajność dzięki dodatkowemu kontekstowi, danym historycznym oraz najnowszej lub innej istotnej wiedzy. Dzięki nowym modelom Meta Llama 3.1-8B zoptymalizowanym do działania na oprogramowaniu NVIDIA TensorRT-LLM, złożoność i możliwości ChatRTX wzrosły.