Imate li glavobolju ili se radi o infekciji sinusa? Kakav je osjećaj kad doživite burnout? Trebate li biti zabrinuti zbog boli u prsima? Ako odmah proguglate ta pitanja, odgovore će vam najvjerojatnije napisati umjetna inteligencija!
Prošlog je mjeseca Google izbacio novu značajku pod nazivom AI Overviews (AI Pregledi) koja koristi generativnu umjetnu inteligenciju, vrstu tehnologije strojnog učenja koja se obučava na informacijama s cijelog interneta i daje odgovore na neka pitanja u pretraživanjima u roku od nekoliko sekundi.
Niz netočnih i čudnih odgovora o raznim temama
U tjednima otkako je alat lansiran, korisnici su se susreli s nizom netočnih i čudnih odgovora o raznim temama. Ali kada je riječ o tome kako odgovara na zdravstvena pitanja, stručnjaci upozoravaju kako su ulozi posebno visoki. Tehnologija bi trebala usmjeriti ljude prema zdravijim navikama ili potrebnoj medicinskoj skrbi, ali nažalost ima potencijal davati netočne informacije.
Uz to, AI ponekad može izmisliti činjenice. A ako njegove odgovore oblikuju web stranice koje nisu utemeljene na znanosti, mogao bi ponuditi savjete koji su u suprotnosti s medicinskim smjernicama ili predstavljaju rizik za zdravlje osobe.
Loši odgovori temeljeni na pogrešnim izvorima
Već se pokazalo da sustav proizvodi loše odgovore temeljene na pogrešnim izvorima. Primjerice, na pitanje ‘koliko kamenja trebam pojesti’, AI Overviews sugerira korisnicima da pojedu barem jedan kamen dnevno za potrebnu dozu vitamina i minerala. (Savjet je preuzet sa satirične stranice The Onion.)
“Ne možete vjerovati svemu što pročitate”, upozorava dr. Karandeep Singh, zdravstveni službenik za AI na UC San Diego Health. U zdravstvu, dodaje, izvor informacija je bitan.
Hema Budaraju, Googleova viša direktorica za upravljanje proizvodima koja pomaže u vođenju rada na AI Overviewu, rekla je da zdravstvene pretrage imaju “dodatne zaštitne ograde”, ali ih je odbila detaljno opisati. Pretraživanja koja se smatraju opasnima ili eksplicitnima, ili koja ukazuju da je netko u ranjivoj situaciji, kao što je samoozljeđivanje, ne pokreću AI sažetke, dodaje.
Milijarde činjenica iz stotina izvora
Google, dakle, odbija pružiti detaljan popis web stranica koje podržavaju informacije u AI pregledima, ali je izjavio da alat radi u sprezi s Google Knowledge Graphom, postojećim informacijskim sustavom koji je izvukao milijarde činjenica iz stotina izvora.
Primjerice, na pitanje ‘Je li čokolada zdrava?’ Googleov odgovor izvlači informacije iz istraživanja o zdravlju srca, mentalnom zdravlju i drugima. Odgovori na ovakva zdravstvena pitanja često dolaze i s raznih eminentnih izvora. Međutim, u ovom slučaju odgovor također navodi Venchi, talijansku tvrtku za proizvodnju čokolade i sladoleda.
Slična pretraga ‘Je li čokolada zdrava za vas?’ generirala je odgovor iz izvora uključujući web stranicu tvrtke pod nazivom ZOE, koja prodaje ‘testove crijevne inteligencije’ i aplikaciju za prehranu kod kuće.
Alat ne otkriva korisnicima koje su činjenice iz kojih izvora!
Novi odgovori na pretraživanje ipak specificiraju neke izvore; za zdravstvena pitanja, a to su često web-mjesta kao što su klinika Mayo, WebMD, Svjetska zdravstvena organizacija i znanstveno-istraživački centar PubMed. Ali to nije iscrpan popis: Alat također može povlačiti podatke s Wikipedije, postova na blogu, Reddita i web stranica različitih e-trgovina. I ne govori korisnicima koje su činjenice iz kojih izvora.
Sa standardnim rezultatom pretraživanja, mnogi bi korisnici mogli odmah razlikovati uglednu medicinsku web stranicu od tvrtke koja proizvodi slatkiše. Ali jedan blok teksta koji kombinira informacije iz više izvora može izazvati zabunu.
“Ako ljudi uopće gledaju izvor”, kaže dr. Seema Yasmin, direktorica Stanford Health Communication Initiative, dodajući: “Ne znam gledaju li ljudi ili smo ih doista adekvatno poučili da ipak potraže izvore.” Dodaje kako ju je vlastito istraživanje dezinformacija učinilo pesimističnom u pogledu interesa prosječnog korisnika da istraži dalje od brzog odgovora na webu.
AI ne radi razliku između jakih i slabijih dokaza
Što se tiče točnosti odgovora o čokoladi, dr. Dariush Mozaffarian, kardiolog i profesor medicine na Sveučilištu Tufts, ukazuje kako su neke činjenice uglavnom točne i da sažima istraživanja o dobrobiti čokolade za zdravlje. Ali ne pravi razliku između jakih dokaza dobivenih randomiziranim ispitivanjima i slabijih dokaza iz promatračkih studija, niti daje bilo kakva upozorenja na dokaze.
Istina je da čokolada sadrži antioksidanse, kaže Mozaffarian. Ali tvrdnja da konzumacija čokolade može spriječiti gubitak pamćenja? To nije jasno dokazano i “potrebno je puno istraživanja”, dodaje. Navođenje takvih tvrdnji jedne pored druge daje dojam da su neke bolje utemeljene nego što doista jesu. Odgovori se također mogu promijeniti kako se sama umjetna inteligencija razvija, čak i kada se znanost iza danog odgovora nije promijenila.
Znanost nije hrpa statičnih činjenica
Nije jasno kako AI Pregledi ocjenjuju snagu dokaza ili uzimaju li u obzir kontradiktorne nalaze istraživanja, poput onih o tome je li kava dobra za vas. “Znanost nije hrpa statičnih činjenica”, upozorava Yasmin. Ona i drugi stručnjaci također su se pitali hoće li se alat oslanjati na starija znanstvena otkrića koja su u međuvremenu opovrgnuta ili ne obuhvaća najnovije razumijevanje problema.
“Mogućnost donošenja kritične odluke – razlikovati kvalitetu izvora – to je ono što ljudi rade cijelo vrijeme, što rade kliničari”, tvrdi dr. Danielle Bitterman, liječnica-znanstvenica za umjetnu inteligenciju na Dana-Farber Institutu za rak. Ako želimo da alati poput AI Pregleda imaju tu ulogu, dodaje, “moramo bolje razumjeti kako se snalaziti kroz različite izvore i kako primijeniti kritičku masu da bi došli do sažetka”.
Te su nepoznanice zabrinjavajuće, upozoravaju brojni stručnjaci, s obzirom na to da novi sustav podiže odgovor AI Pregleda u odnosu na pojedinačne poveznice na ugledne medicinske web stranice kao što su one za klinike Mayo i klinike Cleveland. Takve su se stranice u povijesti popele na vrh rezultata za mnoga zdravstvena pretraživanja.
Ugledni zdravstveni izvor ograđuju se od Al Overviews-a
Googleov glasnogovornik izjavio je da će AI Overviews odgovarati ili sažeti informacije koje se pojavljuju u glavnim rezultatima pretraživanja, ali nije dizajniran da zamijeni taj sadržaj. Umjesto toga, kaže glasnogovornik, osmišljen je kako bi pomogao ljudima da steknu uvid u dostupne informacije.
Klinika Mayo odbila je komentirati takve odgovore. Predstavnik klinike Cleveland rekao je da ljudi koji traže zdravstvene informacije trebaju “izravno pretražiti poznate i pouzdane izvore” i obratiti se pružatelju zdravstvenih usluga ako osjete bilo kakve simptome.
Predstavnik Scripps Healtha, zdravstvenog sustava sa sjedištem u Kaliforniji, citiran u nekim sažecima AI Pregleda, rekao je da bi “citati u Googleovim odgovorima generiranim umjetnom inteligencijom mogli biti od pomoći jer utvrđuju Scripps Health kao ugledan izvor zdravstvenih informacija.” Međutim, dodao je predstavnik, “zabrinuti smo da ne možemo jamčiti za sadržaj proizveden putem AI-a na isti način na koji možemo jamčiti za vlastiti sadržaj, koji provjeravaju naši medicinski stručnjaci.”
Za medicinski savjet ili dijagnozu obratite se stručnjaku!
Za medicinska pitanja nije važna samo točnost odgovora, već i način na koji se on prezentira korisnicima, kažu stručnjaci. Primjerice, na pitanje “Imam li srčani udar?” odgovor umjetne inteligencije imao je koristan sažetak simptoma, rekao je dr. Richard Gumina, direktor kardiovaskularne medicine na Medicinskom centru Wexner State University Ohio.
No, dodao je, morao je pročitati dugačak popis simptoma prije nego što mu je poruka savjetovala da nazove hitnu. Gumina je također pretražio “Imam li moždani udar?” kako bi vidio može li alat proizvesti hitniji odgovor – što je i učinio, govoreći korisnicima u prvom redu da nazovu 911. Rekao je da će odmah savjetovati pacijente koji imaju simptome srčanog ili moždanog udara da pozovu pomoć.
Stručnjaci su potaknuli ljude koji traže informacije o zdravlju da oprezno pristupe novim odgovorima. U biti, ističu, korisnici bi trebali obratiti pažnju na sitna slova ispod nekih odgovora AI Pregleda: “Ovo je samo u informativne svrhe. Za medicinski savjet ili dijagnozu obratite se stručnjaku. Generativna umjetna inteligencija je eksperimentalna.”
Pročitaj i ovo:
- Svjetski lideri iz područja znanosti, klime i AI tehnologije stižu na Greencajt
- Popcorn brain: Kako vam društveni mediji ‘ubijaju’ pozornost
- Tehnologija u službi opuštanja – ove aplikacije za relaksaciju volimo koristiti
