Google naprawia błąd AI w reklamie Super Bowl
Podczas promowania możliwości swojego modelu sztucznej inteligencji Gemini, Google przypadkowo wypromowało największą wadę narzędzi AI: ich skłonność do wymyślania faktów. Jak donosi The Verge, Google musiało poprawić swoją planowaną reklamę na Super Bowl, która promowała Gemini, ponieważ odpowiedź generowana przez model była niepoprawna.
Problematyczne dane w reklamie Google
Kampania reklamowa Google na nadchodzące Super Bowl ma pokazać, jak małe przedsiębiorstwa w całych Stanach Zjednoczonych korzystają z Gemini, przedstawiając 50 różnych historii – po jednej z każdego stanu. W reklamie z Wisconsin, sprzedawca serów używa Gemini do tworzenia treści na swoją stronę internetową. Jednak AI błędnie podaje, że „50 do 60 procent światowego spożycia sera” to gouda, co, jak się okazuje, jest nieprawdziwe.
Reakcja na błąd AI
Błąd został zauważony na Twitterze przez blogera podróżniczego Nate’a Hake’a, który nazwał to statystyką „halucynacyjną”, ponieważ Gemini nie podało źródła. Do dyskusji dołączył Jerry Dischler, prezes Cloud Applications w Google Cloud, broniąc reklamy twierdzeniem, że „wielu użytkowników sprawdzi rezultat i źródła”, mimo że w oryginalnej reklamie nie było wskazania źródeł. Według niego, wiele stron internetowych zawiera takie informacje.
Wątpliwe źródła
Faktycznie, w internecie można znaleźć takie dane, ale prawie każde ich przypisanie prowadzi do wpisu na stronie cheese.com, który nie podaje dowodów dla takiego twierdzenia. Opieranie się na niepewnych źródłach przez Gemini nie jest trafnym uzasadnieniem dla tego błędu.
Na zakończenie, mimo obrony danych przez Gemini w reklamie, Google zdecydowało się ją poprawić. Zaktualizowana wersja reklamy usuwa nieprawdziwą statystykę. Nie jest jasne, czy zmiany wprowadzono ręcznie, czy Gemini otrzymało nowe polecenie, aby uniknąć błędnej informacji, ale poprawiona reklama zadebiutuje podczas Super Bowl.
Rzeczywiste możliwości narzędzi AI
Cała sytuacja jest znacznie lepszą ilustracją tego, czego można oczekiwać od narzędzi takich jak Gemini: kopiują one informacje bez rzeczywistego mechanizmu weryfikacji, czy dostarczają poprawnych danych. Jedynym pocieszeniem może być to, że oszczędzają czas użytkowników!
