Google je nedavno odlučio da ukloni određene AI zdravstvene sažetke iz svojih pretraga nakon što je istraga medija otkrila da su korisnici bili izloženi riziku zbog netačnih i obmanjujućih informacija. Ova funkcija, poznata kao AI Overviews, koristila je generativnu veštačku inteligenciju kako bi pružila kratke preglede zdravstvenih pitanja direktno u rezultatima pretrage, ali su se pojavili ozbiljni problemi vezani za tačnost informacija.
Stručnjaci su upozorili da su neki od AI odgovora sadržavali pogrešne podatke koji su mogli dovesti do ozbiljnih zdravstvenih problema. Na primer, jedan od najalarmantnijih slučajeva odnosio se na rezultate krvnih testova za proveru funkcije jetre. U tom slučaju, AI je davao informacije koje su mogle navesti pacijente sa ozbiljnim oboljenjima jetre da pomisle da su njihovi nalazi normalni, što je moglo dovesti do odlaganja potrebnih medicinskih pregleda i terapija.
Kada su korisnici pretraživali „koji je normalan opseg testova krvi za jetru“, dobijali su brojne brojke bez konteksta, zanemarajući važne faktore kao što su pol, uzrast i nacionalnost. Stručnjaci su naglasili da „normalne vrednosti“ mogu značajno varirati i da je pogrešno tumačenje ovih podataka potencijalno opasno.
Nakon objavljivanja istrage, Google je povukao AI Overviews za pretrage vezane za testove funkcije jetre. Kompanija je izjavila da ne komentariše pojedinačna uklanjanja, ali je naglasila da radi na unapređenju svog sistema kada se uoče problemi sa tačnošću informacija.
Vanessa Hebdič iz organizacije British Liver Trust ocenila je uklanjanje sažetaka kao „odličnu vest“, ali je upozorila da je problem daleko od rešenog. Prema njenim rečima, male izmene u formulaciji pitanja i dalje mogu izazvati AI odgovore koji su potencijalno netačni. Ona je istakla da test funkcije jetre uključuje više analiza i da njihovo tumačenje nije jednostavno, naglašavajući da ozbiljna bolest može postojati čak i kada su rezultati naizgled normalni.
Predstavnici organizacija koje se bave zdravstvenim informisanjem pacijenata pohvalili su potez Google-a, ali su istakli da je to samo prvi korak. I dalje postoje brojni primeri gde AI sažeci nude netačne informacije o važnim temama, poput raka i mentalnog zdravlja. Google je naveo da su neki kontroverzni sažeci ostavljeni jer se oslanjaju na „poznate i relevantne izvore“, ali su tehnološki stručnjaci upozorili da je potrebna dodatna kontrola kvaliteta.
Istraga je pokazala da Google ima značajan posao pred sobom kako bi osigurao da njegova AI tehnologija ne širi opasne zdravstvene dezinformacije. U svetu u kojem milioni ljudi imaju problema sa pronalaženjem pouzdanih zdravstvenih informacija, poverenje u rezultate pretrage ostaje ključno pitanje.
Uzimajući u obzir sve nedavne događaje, jasno je da je potreba za tačnim, pouzdanim zdravstvenim informacijama nikada nije bila veća. Iako su neki koraci preduzeti, stručnjaci smatraju da su neophodne daljnje reforme i unapređenja kako bi se zaštitili korisnici i osiguralo da ne budu izloženi rizicima koji proizlaze iz netačnih informacija. S obzirom na to koliko je važno imati pristup tačnim zdravstvenim podacima, Google i druge tehnološke kompanije moraju nastaviti da rade na razvoju svojih AI sistema kako bi obezbedile sigurnost i zdravlje svojih korisnika.
