Законът за изкуствения интелект на Европейския съюз (ЕС) има за цел да овладее технология, чието влияние нараства с всеки изминал ден.

Новите правила вече са на път да бъдат одобрени през април и може да влязат в сила по-късно тази година след дълъг дебат дали ЕС трябва да забрани определени употреби на изкуствения интелект и да ограничи напредналия изкуствен интелект, пише Politico.

Медията прави разяснения по приетите текстове.

Обхват

Европейската комисия (ЕК) предложи закона за изкуствения интелект през 2021 г., за да установи правила не само за технологията, но и за нейното използване в сценарии, при които може да има сериозни последици за обществото.

С други думи, AI инструмент, който добавя заешки уши към вашите снимки в Instagram, не се нуждае от регулиране. Системите с изкуствен интелект, използвани за проверка на кандидатите за прием в университет обаче, попадат в обхвата на законодателството.

В член 5 на закона за изкуствения интелект се очертават случаи на употреба, които са напълно забранени. Междувременно ЕС създаде правила за т.нар. AI с общо предназначение, за да се справи с бързия растеж на системи като ChatGPT на OpenAI, които нямат специфична употреба и могат да се използват за генериране на всичко - от рецепти до пропаганда.

Какво е забранено

Забранена е употребата на изкуствен интелект за повлияване на поведението, като подсъзнателни, манипулативни или измамни техники, подпомагани от AI, или използване на AI за използване на уязвимостите на човек или група.

Използването на биометрична информация за установяване на расата, сексуалната ориентация, убежденията или членството в профсъюзи на дадено лице не е разрешено, нито социалното оценяване, което включва проследяване на поведението на дадено лице по начин, който може да доведе до неблагоприятно отношение към него в несвързана ситуация. Един такъв пример е отказ на достъп до обществена услуга поради минала употреба на наркотици.

Използването на лицево разпознаване в реално време (известно още като "дистанционна биометрична идентификация" или RBI) на обществени места е забранено. Има изключения обаче: правоприлагащите органи ще могат да използват технологията при разследване на тежки престъпления или издирване на изчезнали хора, стига да имат разрешение от съдия.

Използването на изкуствен интелект за оценка на вероятността дадено лице да извърши престъпление въз основа единствено на лични характеристики - така наречената предсказуема полиция - не е разрешено.

Инструментите за изкуствен интелект не могат да се използват за създаване на бази данни с изображения на лица чрез изрязване на видеоклипове в интернет или видеонаблюдение. Забранено е и използването на AI инструменти за оценка на емоциите на човек на работното място или в образователна среда.

Високорисков изкуствен интелект

Създателите на AI системи, използвани в сценарии с "висок риск", са длъжни да следват практики за управление на данни, включително етично събиране на набори от данни за обучение, и да гарантират, че те са представителни и възможно най-безпристрастни.

Те трябва също така да изготвят техническа документация за функционалността на AI и мерките за управление на риска, да водят запис на използването на AI, за да помогнат при наблюдението на инциденти, да гарантират, че използването на AI може да бъде наблюдавано от действителни хора и да осигурят подходящи нива на точност, надеждност и киберзащита.

Всеки, който въвежда високорискови системи за изкуствен интелект, също ще трябва да извърши оценка на това как инструментът може да засегне основните права съгласно правото на ЕС.

На практика високорисковите системи с изкуствен интелект вероятно ще се считат за съвместими, ако следват стандарти и спецификации, определени от Комисията и организациите за определяне на стандарти. Областите, считани за високорискови, съгласно приложение III, включват биометрични данни и разпознаване на лица, когато не са изрично забранени съгласно член 5; критични инфраструктурни компоненти; образование и работно място; достъп до обществени услуги, обезщетения или основни частни услуги като банкиране и застраховане.

Употреби, свързани с правоприлагането, миграцията, правосъдието и изборите, също се квалифицират като високорискови.

Изкуствен интелект с общо предназначение

Правилата са насочени към "модели" с общо предназначение, които са в основата на инструментите за изкуствен интелект - не към приложенията, насочени към клиента, а към софтуерната архитектура, която е интегрирана в продукти на различни доставчици.

Разработчиците на тези модели - като тези, захранващи ChatGPT или Bard на Google - ще трябва да пазят подробна техническа документация; да помагат на компаниите или хората, внедряващи техните модели, да разберат функционалността и ограниченията на инструментите; предоставят резюме на защитените с авторски права материали (като текстове или изображения), използвани за обучение на моделите; да си сътрудничат с Европейската комисия и националните правоприлагащи органи, когато става въпрос за спазване на правилата.

Някои модели с общо предназначение са етикетирани като "системен риск" благодарение на тяхната мощ и обхват - способност да ускоряват катастрофални събития. Разработчиците на тези системи също ще трябва да въведат стратегии за смекчаване и да предадат подробности за всеки инцидент на Комисията, която ще следи за изпълнението на правилата.