„Казино в подножието на сингулярността“: диагнозата на ИИ 

Една кратка фраза в социалната мрежа обобщи по-остро от официалните речи сблъсъка около бъдещето на изкуствения интелект: „Играем с парите на заведението в индианско казино в ниското подножие на сингулярността“. Авторът е Дийн Бол – човек, участвал в създаването на американската стратегия за изкуствения интелект, а днес ръководител на екипа Strategic Futures в OpenAI.

Публикацията се появи след заседанието на Съвета за сигурност на ООН на 23 септември, посветено на изкуствения интелект и международната сигурност. На него ръководители на водещи компании предупредиха за рискове, които според тях могат да надхвърлят възможностите на отделни държави и лаборатории.

Индустрията поиска координация

Главният изпълнителен директор на OpenAI Сам Алтман заяви, че решенията за най-мощните модели не бива да бъдат оставяни на „един човек, компания или държава“, които могат да наложат собствената си визия върху останалия свят. Той призова правилата да бъдат изработвани чрез демократични процеси и от правителства, които носят отговорност пред гражданите.

Дарио Амодеи, ръководител на Anthropic, предупреди, че изкуственият интелект може да бъде използван за разработване на биологични оръжия, а бъдещи модели могат да станат по-способни, отколкото техните създатели могат да контролират. „Ако бъде управляван зле, изкуственият интелект може да се превърне в риск за човечеството като цяло“, каза той.

Йошуа Бенджио, носител на наградата „Тюринг“ и един от пионерите на съвременния изкуствен интелект, определи опасностите от системи извън човешкия контрол като безпрецедентна заплаха. Той предложи най-мощните модели да бъдат лицензирани п