News

Европейският парламент одобри първия в света закон, който определя правилата за използване на изкуствен интелект. По-специално, той забранява разчитането на емоциите на служителите, създаването на бази данни за разпознаване на лица и намесата в избори. А за нарушенията се налагат глоби в размер на милиони долари. Това се съобщава на сайта на Европейския парламент.

Резолюцията беше одобрена от 523 членове на Европейския парламент с 46 гласа против и 49 въздържали се.

„Регламентът определя задължения по отношение на ИИ въз основа на неговите потенциални рискове и ниво на въздействие. Новите правила забраняват определени приложения на изкуствения интелект, които застрашават правата на гражданите“, обясняват от парламента.

По-специално, вече е забранено неподходящото извличане на изображения на лица от интернет или записи от камери за видеонаблюдение, за да се създадат бази данни за разпознаване на лица, системи за оценка на емоциите на работното място и в училищата и за съставяне на социални рейтинги.

Забраната важи и за полицейската дейност, ако е „основана единствено на профилиране на лице или оценка на неговите характеристики“. Системите за биометрична идентификация в реално време могат да се използват само с предварително съдебно или административно разрешение и само при строги ограничения за сигурност: в определено време на определено място

„Такива употреби могат да включват, например, целенасочено търсене на изчезнало лице или предотвратяване на терористична атака. Използването на такива системи се счита за високорисков случай, изискващ съдебно разрешение, свързано с криминално престъпление“, обяснява Европейският парламент.

Отделно се обсъждат ИИ с повишено ниво на риск, например тези, свързани с критична инфраструктура, образование, заетост, основни частни и обществени услуги, както и въпросите на правосъдието, миграцията и преминаването на границите и изборите. Те могат да се използват, но с оценка на риска трябва да се водят регистрационни файлове за употреба, целите трябва да са прозрачни и ясни и е необходим човешки надзор. Гражданите имат право да подават жалби срещу такива системи с изкуствен интелект и да получават разяснения относно решения, базирани на данни от невронни мрежи, ако това засяга техните права.

Това повдига и въпроса за информационната сигурност. По този начин е забранено използването на изкуствен интелект, който манипулира човешкото поведение или използва неговите уязвимости. Изкуствено генерираните или манипулирани изображения, аудио или видео съдържание трябва да бъдат ясно обозначени като deepfake.

На сайта на Европейския парламент обаче се отбелязва, че законът все още не е влязъл в сила. Резолюцията все още подлежи на правна проверка, но скоро трябва да приключат всички процедури в парламента. След това чака одобрение от Съвета на ЕС. Законът ще влезе в сила 20 дни след официалното публикуване и ще се прилага изцяло 24 месеца след влизането в сила, с изключение на редица позиции.

Разработчиците вече са задължени да публикуват подробни рецензии на съдържанието, използвано за обучение на ИИ системи с общо предназначение. Материалите обаче трябва да отговарят на определени изисквания за прозрачност, включително спазване на закона за авторското право на ЕС. А по-мощните модели, които могат да представляват системни рискове, имат допълнителни изисквания, включително оценка и смекчаване на системния риск и докладване на инциденти.

Нарушаването на забраните води до глоба до €35 млн. А ако нарушителят е предприятие, глобата ще бъде тази сума или до 7% от глобалните приходи за предходната финансова година, което от двете е по-голямо.

За да се улеснят новите играчи на пазара да спазват всички правила, ще бъде създаден специален офис, където моделите на ИИ ще бъдат проверявани за съответствие, преди да бъдат пуснати на пазара.