Компанията за изкуствен интелект Anthropic предлага да се направи глобална пауза в разработването на най-мощните системи за изкуствен интелект (AI), тъй като най-новите модели започват да дават признаци, че могат да излязат извън човешкия контрол, съобщава Франс прес.

Базираната в Сан Франциско компания, която създава семейството базирани на AI облачни модели, косочва че световно забавяне в развитието на най-модерния изкуствен интелект "вероятно би било нещо добро". Anthropic предупреждава обаче, че ако само една компания спре, конкурентите ѝ просто ще я изпреварят.

"Смятаме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния изкуствен интелект, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията", казва се в публикацията на Anthropic, цитирана от БТА.

За да се постигне реална пауза, ще е необходимо множество големи компании за изкуствен интелект в различни страни - най-вече в САЩ и Китай, да се съгласят да спрат едновременно, съгласно правила, които всеки би могъл да провери.

Тази идея може да се окаже донякъде непопулярна сред хора като Илон Мъск, тъй като дългоочакваното дебютиране на борсата на неговата компания SpaceX, която притежава неговото предприятие за изкуствен интелект xAI, се очаква да го превърне в първия трилионер в света.

"Без глобален механизъм за координация компаниите и правителствата ще трябва да вземат трудни решения относно безопасността, докато са подложени на конкурентен и геополитически натиск", предупреждават от Anthropic.

Компанията среща съпротива от други в бранша - вкл. и от представители на Белия дом, които твърдят, че фокусът ѝ върху най-лошите сценарии преувеличава рисковете и се равнява на стратегия за забавяне на конкурентите под прикритието на опасения за безопасността.

Въпреки това Белият дом признава мощността на модела Mythos на компанията, който не е достъпен за широката общественост поради своите възможности в областта на киберсигурността и понастоящем се използва само от малък брой проверени организации.

Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата долина, доколкото представители на правителството на САЩ и ръководители в технологичния сектор многократно са твърдели, че всяко забавяне в развитието на изкуствения интелект рискува да даде на Китай решаващо стратегическо предимство в това, което мнозина считат за определящата технологична надпревара на века.

Президентът на САЩ Доналд Тръмп заяви, че е обсъдил възможността за сътрудничество с Китай по въпроси, свързани с безопасността в сферата на изкуствения интелект, по време на неотдавнашното си посещение в Пекин.

Тръмп също така подписа тази седмица указ, която дава на правителството 30 дни да проведе предварителна проверка на най-мощните американски модели за изкуствен интелект преди тяхното пускане на пазара.

Anthropic сравни проблема с договорите за контрол над ядрените оръжия, но заяви, че ще бъде още по-трудно да се овладее, тъй като обучението на изкуствения интелект е много по-лесно да се скрие от ракетен силоз, а изкушението да се продължи тихо ще бъде огромно.

Призивът за координация идва на фона на вътрешни данни, показващи, че изкуственият интелект вече драстично ускорява развитието на самия изкуствен интелект, добавят от Anthropic.

Това ускорение създава обратна връзка, която, според предупреждението на компанията, в крайна сметка може да доведе до това, което изследователите наричат "рекурсивно самоусъвършенстване".

Това е идеята за система за изкуствен интелект, която става способна по същество да се научи сама да става по-умна, без много човешка помощ.

"Все още не сме стигнали дотам, а рекурсивното самоусъвършенстване не е неизбежно", посочват от Anthropic, като добавят, че то може да настъпи по-рано, отколкото повечето правителства и институции са готови за това.

"Данните сочат, че ролята на човека се стеснява на всеки етап от процеса на развитие на изкуствения интелект", според компанията.