Meta je zabrinuta zbog potencijalnih opasnosti generativnih AI platformi uključujući ChatGPT. Tvrtka za društvene mreže objavila je detalje istraživanja koja pokazuju povećanu prijetnju zlonamjernog softvera koji uključuje usluge.
Najnoviji val kampanja zlonamjernog softvera ciljao je na generativnu AI tehnologiju poput prethodnih napada temeljenih na popularnosti kriptovalute, upozorio je Guy Rosen, glavni službenik za informacijsku sigurnost Mete. Istraživanje pokazuje kako je Meta od ožujka pronašla oko deset vrsta zlonamjernog softvera koji se predstavlja kao ChatGPT ili slični alati. Rosen je primijetio da su zlonamjerna proširenja preglednika koja tvrde da pružaju ChatGPT alate dostupna u službenim web trgovinama. U nekim su slučajevima proširenja uključivala ChatGPT funkcionalnost uz zlonamjerni softver kako bi se izbjegla sumnja.
Rosen je izjavio da su njegovi timovi otkrili i blokirali više od 1000 jedinstvenih zlonamjernih URL-ova za dijeljenje u svojim aplikacijama i prijavili ih kolegama iz industrije. Primijetio je da se neki zlonamjerni softver prebacio na marketinške usluge Google Bard ili TikTok nakon što su otkriveni pokušaji ChatGPT-a. Rosen je dodao da su hakeri primijetili brzu evoluciju generativnog AI sektora i upozorio da bi svi trebali biti na oprezu.