Figma wycofuje narzędzie AI po krytyce, że skopiowało projekt Apple

Nowe narzędzie Figmy Make Designs pozwala użytkownikom szybko tworzyć makiety aplikacji przy użyciu generatywnej sztucznej inteligencji. Teraz zostało wycofane po tym, jak narzędzie stworzyło projekty, które wyglądały uderzająco podobnie do aplikacji pogodowej iOS firmy Apple. Dyrektor generalny Figmy Dylan Field zamieścił wątek na X wczesny wtorek rano, szczegółowe informacje usunięcieobwinianie siebie za motywowanie zespołu do dotrzymania terminui obrona podejścia firmy do rozwijania narzędzi AI.

W posty na XAndy Allen, CEO Not Boring Software, pokazał, jak bardzo narzędzie Make Designs firmy Figma tworzy niemal repliki aplikacji pogodowej Apple. „Tylko ostrzeżenie dla projektantów korzystających z nowej funkcji Make Designs, że warto dokładnie sprawdzić istniejące aplikacje lub mocno zmodyfikować wyniki, aby nieświadomie nie wpaść w kłopoty prawne” Allen napisał.

W wywiadzie we wtorek z CTO Figmy Krisem Rasmussenem zapytałem go wprost, czy Make Designs został wytrenowany na projektach aplikacji Apple. Jego odpowiedź? Nie mógł powiedzieć tego na pewno. Figma w ogóle nie była odpowiedzialna za trenowanie używanych przez siebie modeli AI.

„Nie przeprowadziliśmy żadnego szkolenia w ramach funkcji generatywnej AI” — powiedział Rasmussen. Funkcje są „obsługiwane przez gotowe modele i specjalnie zaprojektowany system projektowy, który zamówiliśmy, co wydaje się być podstawowym problemem”.

To generalnie pasuje do tego, co powiedział w poniedziałek na X w odpowiedzi użytkownikowi, który zasugerował, że Make Designs zostało przeszkolone w istniejących aplikacjach. „Jak już wspomnieliśmy, gdy w zeszłym tygodniu uruchomiliśmy Figma AI, nie było żadnego szkolenia w ramach tej funkcji ani żadnej z naszych funkcji generatywnych” on napisał„Badamy, w jakim stopniu podobieństwa są funkcją modeli stron trzecich, których używamy, w porównaniu z systemami projektowymi, które zleciliśmy do wykorzystania przez modele, i zajmiemy się tym w razie potrzeby”.

Field w swoim własnym wątku: powiedział to funkcja Make Designs „nie jest trenowana na treściach Figma, plikach społeczności ani projektach aplikacji” i zauważył, że „oskarżenia dotyczące trenowania danych w tym tweecie są fałszywe”. Powiedział, że problemem w podejściu firmy jest to, że „zmienność jest zbyt niska.”

Według Rasmussena kluczowymi modelami AI, które napędzają Make Designs, są OpenAI’s GPT-4o i Amazon’s Titan Image Generator G1. Jeśli to prawda, że ​​Figma nie trenowała swoich narzędzi AI, ale i tak wypluwa sobowtóry aplikacji Apple, może to sugerować, że OpenAI lub modele Amazon zostały wytrenowane na projektach Apple. OpenAI i Amazon nie odpowiedziały natychmiast na prośbę o komentarz.

Rasmussen argumentował, że Figma nie chciała przeprowadzać żadnych szkoleń w celu ulepszenia swoich funkcji, dopóki nie była otwarta dla użytkowników w kwestii swoich zasad dotyczących szkoleń AI, które również wprowadziła w zeszłym tygodniu. Zgodnie z tymi zasadami użytkownicy mają czas do 15 sierpnia, aby zdecydować, czy chcą wyrazić zgodę na wykorzystanie ich treści w szkoleniach Figmy. (Plany Starter i Professional są domyślnie włączone, podczas gdy plany Organization i Enterprise są domyślnie wyłączone).

Zapytałem, czy Figma planuje szkolić własne modele, co biorąc pod uwagę nowe zasady szkolenia AIwygląda na coś, co się wydarzy. „Zdecydowanie widzimy możliwości, aby naprawdę udoskonalić Twoje przepływy pracy projektowej, ucząc te modele, jak projektować w kontekście Figmy” — powiedział Rasmussen. Jednak „podejmiemy kroki, aby upewnić się, że nasze własne modele lub wszelkie dostrajanie, które wykonujemy za pomocą modeli open source, uczą się tylko ogólnych wzorców projektowych i konkretnych koncepcji projektowych Figmy, aby mogły być lepszymi narzędziami dla profesjonalnych projektantów”.

Zapytałem również Rasmussena, w jaki sposób Figma planuje naprawić swoje procesy, aby wychwycić potencjalne problemy w przyszłości. „Przeprowadzamy przegląd niestandardowego systemu projektowania, aby upewnić się, że ma on wystarczającą zmienność i spełnia nasze standardy jakości” — powiedział. „To jest główna przyczyna problemu. Ale podejmiemy dodatkowe środki ostrożności, zanim ponownie włączymy (Make Designs), aby upewnić się, że cała funkcja spełnia nasze standardy jakości i jest zgodna z naszymi wartościami”.

Rasmussen zwrócił również uwagę na fakt, że Make Designs jest w fazie beta. „Wersje beta, z definicji, nie są doskonałe. Ale można śmiało powiedzieć, jak Dylan napisał na swoim tweecie, że po prostu nie zauważyliśmy tego konkretnego problemu. A powinniśmy byli”.

Rasmussen powiedział, że Figma spodziewa się ponownego włączenia Make Designs „wkrótce”. Inne funkcje Figma AI będą nadal dostępne w wersji beta. (Aby uzyskać dostęp do dowolnej z funkcji AI Figma, musisz zapisać się na listę oczekujących.)

Figma to najnowsza firma, która znalazła się pod lupą ze względu na podejście do wprowadzania sztucznej inteligencji do swoich narzędzi kreatywnych. Adobe musiało jasno powiedzieć, że nie użyłby twojej pracy do trenowania swojej sztucznej inteligencji po reakcji na zmiany w regulaminie. A Meta musiała zmień jego etykiety AI po tym, jak fotografowie zaczęli narzekać na starą etykietę nieprawidłowo zastosowane do prawdziwych zdjęć.