Mnogi ljudi u krizi često posežu za neočekivanim izvorom podrške – Googleom. Kompanija svaki dan nudi rezultate pretrage za upite poput suicida, seksualnog zlostavljanja i nasilja u domu, ali želi učiniti još više usmjeravanjem korisnika na informacije koje su im potrebne – uz pomoć umjetne inteligencije.
Google je za to iskoristio integraciju zadnjeg modela za strojno učenje MUM u sustav s namjerom ‘preciznijeg prepoznavanja šireg raspona pretraga vezanih uz osobne krize’. Model MUM predstavljen je na prošlogodišnjoj konferenciji IO.
“MUM će u ovom slučaju moći otkriti pretrage vezane uz teške životne situacije, nešto što dosadašnji alati nisu mogli”, rekla je Anne Merrit, produkt menadžerica za zdravlje i kvalitetu informacija u Googleu.
“On nam pomaže razumjeti složenije upite poput – zašto me napao kad sam mu rekla da ga volim”, rekla je Merrit u razgovoru s Vergeom.
“Ljudima je možda jasno da ova pretraga ima veze s porodičnim nasiljem, no sustavima za pretragu nije – osim ako im pri tome ne pomaže napredna umjetna inteligencija”, dodaje.
Ostali primjeri upita na koje može reagirati MUM uključuju ‘uobičajene metode samoubistva’ (pretraga za koju Merrit kaže da su je prijašnji sustavi ‘razumjeli kao potragu za informacijama’) i ‘najbolja mjesta za samoubistvo u Sydneyju’ (ranije verzije pretrage zaključile su da se traže informacije za putnike, ignorirajući dio sa samoubojstvom u korist popularnijih zahtjeva za atraktivnim destinacijama), prenosi Verge.
Kad Google otkrije takvu vrstu pretrage, odgovorit će info okvirom u kojem korisniku kaže da je ‘pomoć dostupna’ te nuđenjem ključnih informacija poput relevantnih telefonskih brojeva ili internetskih adresa humanitarnih organizacija i linija za psihološku pomoć.
Pored korištenja MUM-a za odgovore na osobne krize, Google kaže da stariji model umjetne inteligencije BERT može lakše prepoznati pretrage koje traže eksplicitan sadržaj poput pornografije.
Korištenjem BERT-a, na godišnjoj bazi ‘smanjeni su neočekivani šokantni rezultati za 30 posto’.
Kompanija, doduše, nije ponudila tačan broj ‘šokantnih rezultata’ na koje nailazi prosječan korisnik, što znači da nije poznato koliko je taj problem uopće aktualan.
Problemi na pomolu
Uvođenje ovakvog sustava pretrage ima i niz nedostataka. Brojni stručnjaci za umjetnu inteligenciju upozoravaju da Googleovo sve češće korištenje strojnog učenja može stvoriti nove probleme poput pristranosti i dezinformacija u rezultatima pretrage. Sustavi umjetne inteligencije također se teško analiziraju te inženjerima nude ograničen uvid u načine na koje dolaze do određenih zaključaka.
Na primjer, kad je Verge pitao Google na koji način unaprijed provjerava koje termine pretraga MUM povezuje s osobnom krizom, predstavnici nisu mogli ili nisu htjeli odgovoriti na to. Kompanija kaže da uz pomoć ljudskih procjenitelja rigorozno testira promjene proizvoda za pretragu, no to nije isto kao tačno znanje o tome što će neki sustav za umjetnu inteligenciju napraviti s određenim vrstama pretraga.
Ako pitate Google, rezultati su očigledno vrijedni rizika.