Jedna majka iz američke savezne države Arizone, Jennifer DeStefano, primila je poziv s nepoznatog broja i čula plač svoje 15-godišnje kćeri Brie. Međutim, to nije bila njena kći, već umjetna inteligencija koja je oponašala njezin glas.

“Mama, zabrljala sam…” čuo je glas s druge strane slušalice prije nego što je muški glas počeo prijetiti i postavljati zahtjeve. Muškarac je majci rekao da joj je oteo kćer, prenosi Independet.

Navodni otmičar je rekao DeStefani da će, ako nazove policiju, drogirati djevojku i ostaviti je negdje u Meksiku.

DeStefano je rekla da je mogla čuti svoju kćer u pozadini kako plače i viče “pomozi mi mama”, prenosi Telegraph.

“To je bio 100 posto njezin glas. Nisam sumnjala da to nije bio glas moje kćeri. I način na koji je plakala bio je isti. Bilo je zastrašujuće”, kazala je DeStefano.

Lažni otmičar tražio je milion dolara za oslobađanje 15-godišnjakinje, a potom je cifru spustio na 50.000 dolara.

No DeStefano je shvatila da je djevojčica na sigurnom tek nakon što je porodični prijatelj nazvao njezinog supruga da potvrdi da je njezina kći na sigurnom.

Čini se da je prevarant, kojeg policija još uvijek istražuje, koristio tehnologiju kloniranja glasa umjetne inteligencije, koja je posljednjih godina sve više sposobna oponašati ljudske glasove.

Također, ova tehnologija je jednostavna za korištenje jer su AI alati besplatno dostupni na internetu. Glasovi generirani umjetnom inteligencijom već su korišteni u filmovima za dupliciranje glasova glumaca kao što je James Earl Jones, koji je dao glas liku Dartha Vadera u Ratovima zvijezda.

Tehnologija je također potaknula strahove da bi je mogli zloupotrijebiti prevaranti ili ljudi koji pokušavaju stvoriti lažne videozapise.