Jedan istraživač izmislio je lažnu očnu bolest pod nazivom „bixonimania“ i o njoj objavio dva potpuno izmišljena naučna rada na akademskom serveru. U tim radovima navodili su se zahvalnice „Starfleet Academy“, finansiranje od lika iz serije The Simpsons, kao i institucija „University of the Fellowship of the Ring“. U samom tekstu je čak jasno bilo naznačeno da je sve izmišljeno.
Uprkos tome, nekoliko sedmica su vodeći AI sistemi ovu bolest tretirali kao stvarnu. Google Gemini je tvrdio da je uzrokovana plavim svjetlom, Perplexity je naveo učestalost od jednog slučaja na 90.000 ljudi, dok je ChatGPT čak davao savjete korisnicima o simptomima i njihovom prepoznavanju.
Lažni rad je na kraju citiran i u jednom recenziranom naučnom časopisu, koji je kasnije povukao objavu nakon reakcije časopisa Nature.
Ni AI sistemi, ali ni istraživači, u početku nisu prepoznali prevaru, što ukazuje na sve veći problem – korištenje i citiranje AI-generisanih izvora bez provjere njihove vjerodostojnosti.
U međuvremenu, američka agencija za lijekove (FDA) već koristi umjetnu inteligenciju u procjeni lijekova, direktor jedne bolnice u New Yorku razmatra zamjenu radiologa algoritmima, a pokrenut je i ChatGPT Health kao alat za savjetovanje pacijenata.
