Fable, popularna aplikacja społecznościowa, która określa się jako raj dla „moli książkowych i miłośników książek”, opublikowała na koniec roku ankietę opartą na sztucznej inteligencji, podsumowującą książki, które użytkownicy przeczytają w 2024 r. Utworzono funkcję podsumowania. Miało być zabawnie i zabawnie, ale niektóre opowiadania miały dziwnie wojowniczy ton. Na przykład w podsumowaniu autora Danny’ego Grovesa nazwano go „wielbicielem różnorodności” po tym, jak zapytano go, czy „ma nastrój na heteroseksualną perspektywę cis białego człowieka”.
Tymczasem podsumowanie wpływowej książki Tiany Trammell zakończyło się następującą radą: „Nie zapomnij od czasu do czasu pokazać się białej autorce, dobrze?”
Trammell była zaskoczona, gdy podzieliła się swoimi doświadczeniami z podsumowaniem wątków w Fable i szybko zdała sobie sprawę, że nie jest sama. „Otrzymałam kilka wiadomości od osób, których życiorysy zawierały niewłaściwe komentarze na temat „niepełnosprawności i orientacji seksualnej” – mówi.
Od czasu wprowadzenia Spotify Wrapped funkcje corocznych podsumowań stały się wszechobecne w Internecie, informując użytkowników, ile książek i artykułów prasowych przeczytali, ile przesłuchali piosenek i ukończyli treningi. Niektóre firmy korzystają obecnie ze sztucznej inteligencji, aby całkowicie obejść lub ulepszyć sposób prezentacji tych wskaźników. Na przykład Spotify oferuje teraz podcast generowany przez sztuczną inteligencję, w którym roboty analizują Twoją historię słuchania i prognozują Twoje życie na podstawie Twoich upodobań. Fable wskoczyło na ten trend, wykorzystując API OpenAI do generowania podsumowań nawyków czytelniczych swoich użytkowników z ostatnich 12 miesięcy, ale nie spodziewało się, że model sztucznej inteligencji wywoła komentarze, które będą anty- Will odegra rolę przeciwnika mędrzec hinduski. ,
Fable przeprosiło później na wielu kanałach mediów społecznościowych, w tym w wątkach i na Instagramie opublikował film Dyrektora wydającego MEA Kalpa. „Bardzo nam przykro z powodu szkód spowodowanych przez niektóre podsumowania naszych czytelników w tym tygodniu” – napisała firma w podpisie. „Będziemy działać lepiej”.
Przewodnicząca społeczności Fable, Kimberly Marsh Ealy, powiedziała WIRED, że firma pracuje nad kilkoma zmianami mającymi na celu ulepszenie podsumowań AI, w tym opcją rezygnacji dla osób, które ich nie chcą, oraz wyraźniejszymi informacjami wskazującymi, że są one generowane przez sztuczną inteligencję. „Na razie usunęliśmy część modelu, która angażuje czytelnika w sposób rekreacyjny, i zamiast tego model po prostu podsumowuje gust użytkownika w zakresie książek” – mówi.
Dla niektórych użytkowników dostosowanie sztucznej inteligencji nie wydaje się odpowiednią reakcją. Autorka fantastyki i romansów AR Cofer była zaskoczona, gdy zobaczyła w mediach społecznościowych zrzuty ekranu niektórych podsumowań. „Muszą powiedzieć, że całkowicie eliminują sztuczną inteligencję. Muszą też wydać oświadczenie nie tylko w sprawie sztucznej inteligencji, ale także przeprosić osoby, których to dotyczy” – mówi Cofer. „Te «przeprosiny» w wątkach wydają się nieszczere, gdy wspominamy, że aplikacja jest «zabawna», jakby w jakiś sposób tolerowała cytaty rasistowskie/seksistowskie/ableistyczne.” W odpowiedzi na incydent Cofer zdecydował się usunąć swoje konto w Fable.
Trammell zrobił to samo. Mówi: „Właściwym działaniem byłoby wyłączenie tej funkcji i przeprowadzenie rygorystycznych testów wewnętrznych, w tym nowo wdrożonych środków bezpieczeństwa, aby mieć pewność, że innym użytkownikom platformy nie stanie się krzywda”.
