Czy powinienem założyć osobistego agenta AI, który pomoże mi w codziennych zadaniach?
-szukam pomocy
Ogólnie rzecz biorąc, uważam, że poleganie na jakiejkolwiek automatyzacji w życiu codziennym jest niebezpieczne, gdy dochodzi do skrajności i potencjalnie powoduje alienację, nawet jeśli jest używane oszczędnie, szczególnie w przypadku rozmów osobistych. Agent AI, który porządkuje moją listę rzeczy do zrobienia i zbiera linki online do dalszego czytania? niesamowity. Agent AI, który co tydzień automatycznie wysyła moim rodzicom szybkie aktualizacje? Straszny.
Jednak najsilniejszym argumentem przemawiającym za niewłączaniem do codziennej rutyny bardziej generatywnych narzędzi sztucznej inteligencji jest wpływ, jaki te modele na środowisko nadal wywierają podczas szkoleń i generowania wyników. Mając to wszystko na uwadze, przekopałem się do archiwów WIRED, aby znaleźć więcej historycznego kontekstu dla Twojego pytania, które zostało opublikowane w okresie chwalebnych początków tego bałaganu, który nazywamy Internetem. Po krótkich poszukiwaniach wróciłem z przekonaniem, że prawdopodobnie już na co dzień korzystasz z agentów AI.
Idea agentów AI, lub nie daj Boże „agent AI”, to obecnie modne hasło dla każdego lidera technologicznego próbującego nagłośnić swoje ostatnie inwestycje. Jednak koncepcja zautomatyzowanego asystenta dedykowanego do wykonywania zadań programowych nie jest pomysłem nowym. Duża część dyskusji na temat „agentów oprogramowania” z lat 90. odzwierciedla obecne rozmowy w Dolinie Krzemowej, gdzie liderzy firm technologicznych obiecują obecnie nadchodzący zalew agentów wykorzystujących sztuczną inteligencję, przeszkolonych do pracy online w naszym imieniu.
„Jednym z problemów, jakie widzę, jest to, że ludzie będą kwestionować, kto jest odpowiedzialny za działania agenta” – powiedział w wywiadzie dla WIRED z profesor MIT Patty Mace, pierwotnie opublikowanym w 1995 roku. Kupujesz na własną rękę coś, czego nie chcesz. Agenci poruszą wiele ciekawych tematów, ale jestem pewien, że bez nich nie moglibyśmy żyć.”
Zadzwoniłem do Mace’a na początku stycznia, żeby dowiedzieć się, jak na przestrzeni lat zmienił się jego pogląd na agentów AI. Jak zawsze optymistycznie podchodzi do potencjału automatyzacji osobistej, jest jednak przekonany, że „skrajnie niedoświadczeni” inżynierowie nie spędzają wystarczająco dużo czasu na zajmowaniu się złożonością interakcji człowiek-komputer. Mówi, że ich nieostrożność może zainspirować kolejną zimę AI.
„Te systemy są obecnie budowane w sposób zoptymalizowany z technicznego punktu widzenia, z inżynierskiego punktu widzenia” – mówi. „Ale w ogóle nie są zoptymalizowane pod kątem projektowania przez człowieka”. Koncentruje się na tym, że pomimo ulepszeń w podstawowych modelach agenci sztucznej inteligencji nadal łatwo dają się oszukać lub uciekają się do stronniczego postrzegania. Fałszywa pewność prowadzi użytkowników do ufania odpowiedziom generowanym przez narzędzia AI, choć nie powinni.
Aby lepiej zrozumieć inne potencjalne zagrożenia dla poszczególnych agentów AI, podzielmy to niewyraźne słowo na dwie odrębne kategorie: te, które cię żywią i te, które cię reprezentują.
Agenci żywieniowi to algorytmy korzystające z danych o Twoich nawykach i upodobaniach, które przeszukują mnóstwo informacji, aby znaleźć to, co jest dla Ciebie istotne. Brzmi znajomo, prawda? Każdy silnik rekomendacji w mediach społecznościowych, który wypełnia oś czasu dostosowanymi postami lub trwały moduł śledzący reklamy, który po raz tysięczny pokazuje mi te żelki grzybowe na Instagramie, można uznać za osobistego agenta AI. Jako kolejny przykład z wywiadu z lat 90. Mays wspomniał agenta zajmującego się zbieraniem wiadomości, który był skłonny przynieść mu dowolne artykuły. To wygląda jak moja strona docelowa Google News.
