OpenAI, u Google DeepMind-u upozoravaju na rizike od umjetne inteligencije

85

Grupa sadašnjih i bivših zaposlenih u kompanijama za umjetnu inteligenciju (AI), uključujući Microsoft (MSFT.O), otvara novu karticu OpenAI i Alphabet's (GOOGL.O), otvara novu karticu Google DeepMind u utorak izrazio zabrinutost zbog rizika koje predstavlja nova tehnologija.

U otvorenom pismu grupe od 11 sadašnjih i bivših zaposlenih u OpenAI-u i jednog sadašnjeg i još jednog bivšeg zaposlenika u Google DeepMind-u navodi se da finansijski motivi AI kompanija ometaju efikasan nadzor.

“Ne vjerujemo da su strukture korporativnog upravljanja po narudžbi dovoljne da se ovo promijeni”, dodaje se u pismu.
Nadalje upozorava na rizike od neregulisane umjetne inteligencije, u rasponu od širenja dezinformacija do gubitka nezavisnih AI sistema i produbljivanja postojećih nejednakosti, što bi moglo rezultirati “ljudskim izumiranjem”.

Kompanije sa umjetnom inteligencijom imaju “slabe obaveze” da dijele informacije s vladama o mogućnostima i ograničenjima svojih sistema, navodi se u pismu, dodajući da se na te kompanije ne može pouzdati da će te informacije dijeliti dobrovoljno.

Otvoreno pismo je najnovije pitanje koje je izazvalo zabrinutost za sigurnost u vezi generativne AI tehnologije, koja može brzo i jeftino proizvesti ljudski tekst, slike i zvuk. Grupa je pozvala kompanije sa umjetnom inteligencijom da olakšaju proces za sadašnje i bivše zaposlenike kako bi izrazili zabrinutost u vezi sa rizikom i ne sprovode sporazume o povjerljivosti koji zabranjuju kritiku.