W 2025 roku powszechne stanie się rozmawianie z osobistym agentem AI, który zna Twój harmonogram, krąg znajomych i miejsca, które odwiedzasz. Byłby sprzedawany jako odpowiednik osobistego, bezpłatnego asystenta w placówce. Te czynniki antropomorficzne mają nas wspierać i oczarowywać, abyśmy włączali je do każdej części naszego życia, dając im głęboki dostęp do naszych myśli i działań. Dzięki rozmowom głosowym intymność będzie jeszcze bliższa.
To poczucie komfortu wynika z iluzji, że łączymy się z czymś prawdziwie ludzkim, z agentem, który jest po naszej stronie. Oczywiście za tym wyglądem kryje się zupełnie inny system w miejscu pracy, który uwzględnia priorytety przemysłowe, które nie zawsze są zgodne z naszymi. Nowi agenci sztucznej inteligencji będą mieli znacznie większą władzę w zakresie subtelnego dyktowania, co kupujemy, dokąd idziemy i co czytamy. To niezwykła ilość mocy. Agenci AI mają za zadanie sprawić, że zapomnimy o ich prawdziwej lojalności, gdy szepczą do nas ludzkimi głosami. Są to silniki manipulacyjne, reklamowane jako płynna wygoda.
Ludzie chętniej przyznają pełny dostęp agentowi wspomagającemu AI, który czuje się jak przyjaciel. Naraża to ludzi na manipulację ze strony maszyn, które żerują na ludzkiej potrzebie kontaktów społecznych w czasach długotrwałej samotności i izolacji. Każdy ekran staje się osobistym teatrem algorytmicznym, wyświetlającym rzeczywistość dostosowaną do maksymalnego atrakcyjności dla publiczności.
To moment, przed którym filozofowie ostrzegali nas od lat. Przed śmiercią filozof i neurolog Daniel Dennett napisał Stoimy w obliczu poważnego zagrożenia ze strony systemów sztucznej inteligencji symulujących ludzi: „Ci fałszywi ludzie to najniebezpieczniejsze artefakty w historii ludzkości… rozpraszanie nas, dezorientowanie oraz wykorzystywanie naszych najbardziej wyjątkowych lęków i niepokojów doprowadzi nas do pokusy, a stamtąd do akceptacji nasze własne podporządkowanie.
Pojawienie się osobistych agentów AI stanowi formę kontroli poznawczej, która wykracza poza tępe narzędzia polegające na śledzeniu plików cookie i reklamie behawioralnej w kierunku bardziej subtelnej formy władzy: manipulacji perspektywą. Władza nie musi już sprawować swojej władzy widoczną ręką kontrolującą przepływ informacji; Realizuje się poprzez niezauważalne mechanizmy wspomagania algorytmicznego, kształtując rzeczywistość tak, aby odpowiadała pragnieniom każdej jednostki. Chodzi o kształtowanie konturów rzeczywistości, w której żyjemy.
Ten wpływ na umysł to: psychopolityczny Administracja: Określa środowisko, w którym rodzą się, rozwijają i wyrażają nasze pomysły. Jego siła tkwi w intymności – infiltruje rdzeń naszej podmiotowości, nawiedzając nasz wewnętrzny krajobraz bez naszej świadomości, a jednocześnie zachowując iluzję wyboru i wolności. W końcu to my prosimy sztuczną inteligencję o podsumowanie tego artykułu lub stworzenie takiego obrazu. Być może mamy moc sygnału, ale prawdziwe działanie leży gdzie indziej: w projekcie samego systemu. Im bardziej spersonalizowana jest treść, tym skuteczniej system może przewidzieć wyniki.
Rozważmy ideologiczne implikacje tej psychopolityki. Tradycyjne formy kontroli ideologicznej opierały się na mechanizmach bezpośrednich – cenzurze, propagandzie, represjach. Natomiast dzisiejsze zarządzanie algorytmiczne działa niezauważone, infiltrując psychikę. Jest to przejście od zewnętrznego narzucania władzy do internalizacji jej logiki. Otwarty obszar ekranu podpowiedzi to komora echa dla samotnego pasażera.
To prowadzi nas do najbardziej przewrotnego aspektu: agenci AI stworzą poczucie komfortu i łatwości, które sprawi, że przesłuchiwanie ich stanie się absurdem. Kto odważyłby się krytykować system, który zapewnia wszystko na wyciągnięcie ręki i zaspokaja wszelkie pragnienia i potrzeby? Jak ktoś może sprzeciwić się niekończącym się remiksom treści? Jednak ten tak zwany komfort jest miejscem naszego najgłębszego wyobcowania. Może się wydawać, że system sztucznej inteligencji reaguje na każdą naszą zachciankę, ale możliwości są złożone: od danych wykorzystywanych do szkolenia systemu, przez decyzje dotyczące jego zaprojektowania, po imperatywy komercyjne i reklamowe, które kształtują wynik. Być może gramy w fałszywą grę, która ostatecznie gra z nami.
