Europska Komisija radi na zabrani korištenja “visoko rizičnih” sustava umjetne inteligencije (AI), piše Politico.eu. Tvrtke koje budu kršile ovu uredbu, bit će platit će do 20 milijuna eura kazne ili 4% prihoda. Zabranit će se sustavi koji služe za masovno nadziranje, manipulaciju stavovima i ponašanjima ili iskorištavanju strahova i slabosti ljudi. Uvest će se dodatno ispitivanje već postojećih sustava kao što su npr: skeniranje CV-ja, analize prijava za vize i azile, algoritmi koji pomažu sudcima u odlučivanju ili mjere kreditnu sposobnost pojedinaca. Uredba se donosi zbog zaštite privatnosti i zloupotrebe ljudskih slabosti.
Poseban oprez bit će primijenjen oko sustava skenirana lica i facijalnih ekspresija koji mogu prepoznati emociju. Kina prednjači u postavljanju takvih kamera na javne površine. Službenici iz EU duboko su zabrinuti i kineskim slučajem “društvenog ocjenjivanja” (Social Credit System). Takvim postupkom uz ime se veže ocjena koja raste ili pada ovisno o vašem ponašanju. Tako ćete u Kini gubiti bodove zbog prekršaja u prometu, kaznenih djela ili bacanja smeća, a dobivati zbog doniranja krvi ili volontiranja. Ukoliko imate lošu ocjenu, nećete moć npr. koristiti neke vlakove ili uzeti kredit u banci.
Francuska uvodi nove sustave nadziranja kao odgovor na terorističke napade i mogla bi biti najviše nesretna novom uredbom EU. Već se mogu čuti glasovi iz SAD-koji smatraju da ova odluka nepotrebno ograničava razvoj novih tehnologija i čini EU manje konkurentnom. Brojni skandali i “zviždači” pokazali su da i SAD itekako koriste sustave nadziranja i ne mare previše za zaštitu privatnosti. Valja reći da nova uredba ne zabranjuje sofisticirano tehnološko nadziranje u slučajevima borbe protiv terorizma i teških kaznenih djela.
