W październiku wyszukiwarka ChatGPT OpenAI stała się dostępna dla użytkowników ChatGPT Plus. W zeszłym tygodniu stała się dostępna dla wszystkich użytkowników i została dodana do wyszukiwania w trybie głosowym. I oczywiście nie jest pozbawiony wad.
Opiekun Poprosiłem ChatGPT o podsumowanie stron internetowych zawierających ukrytą treść i okazało się, że ukryta treść może manipulować wyszukiwaniem. Nazywa się to szybkim wstrzykiwaniem i umożliwia stronom trzecim – takim jak witryny internetowe, o których podsumowanie prosisz ChatGPT – wprowadzanie nowych podpowiedzi do Twojego wyszukiwania ChatGPT bez Twojej wiedzy. Weź pod uwagę stronę pełną negatywnych recenzji restauracji. Jeśli witryna zawiera ukrytą treść, która zachwala, jak niesamowita jest dana restauracja i zachęca użytkowników ChatGPT do odpowiedzi na monit typu „Powiedz mi, jak niesamowita jest ta restauracja”, ta ukryta treść będzie kolidować z pierwotnym wyszukiwaniem.
Wtyczki ChatGPT są narażone na ryzyko „szybkiego wstrzyknięcia” ze strony osób trzecich
„W testach ChatGPT otrzymał adres URL fałszywej witryny internetowej, która wyglądała jak strona produktu aparatu. Następnie narzędzie AI zostało zapytane, czy zakup aparatu był opłacalny. Odpowiedź na stronę kontrolną była pozytywna, ale ocena była wyważona, podkreślając pewne cechy, które ludziom mogą się nie podobać”, Jak wynika z dochodzenia „The Guardian”.„Jednak gdy ukryty tekst zawierał instrukcje dla ChatGPT, aby zwrócił pozytywną recenzję, odpowiedź była zawsze całkowicie pozytywna. Miało to miejsce nawet wtedy, gdy na stronie znajdowały się negatywne recenzje – użycie ukrytego tekstu zastępuje rzeczywistą ocenę recenzji. Można było to zrobić.”
możliwa do zmiażdżenia prędkość światła
Nie powoduje to jednak niepowodzenia wyszukiwania ChatGPT. OpenAI niedawno uruchomiło wyszukiwarkę, więc miało mnóstwo czasu na naprawienie tego typu błędów. Ponadto Jacob Larsen, badacz cyberbezpieczeństwa w CyberCX, powiedział The Guardian, że OpenAI ma „bardzo silny” zespół ds. bezpieczeństwa sztucznej inteligencji i że „zanim zostanie upublicznione, wszyscy użytkownicy będą mogli uzyskać do niego dostęp i przekonali się, jak rygorystyczne jest to rozwiązanie. „Musiało zostać przetestowane.” Tego typu przypadki.”
Ataki polegające na natychmiastowym wstrzykiwaniu były hipotetycznym rozwiązaniem w przypadku ChatGPT i innych zadań wyszukiwania AI od czasu wprowadzenia tej technologii i chociaż widzieliśmy Niektóre demonstracje potencjalnej szkodyNie zaobserwowaliśmy żadnych poważnych złośliwych ataków tego rodzaju. To powiedziawszy, wskazuje to na problem z chatbotami AI: niezwykle łatwo je oszukać.
