Дослідник Джейкоб Коксон звільнився з компанії Anthropic і заявив, що залишає індустрію штучного інтелекту через ризики, пов’язані зі створенням надпотужних систем, здатних удосконалювати себе без участі людини.
27-річний Коксон протягом трьох років працював над навчанням моделей в OpenAI та Anthropic. Пояснюючи своє рішення, він звинуватив обидві компанії у небезпечній гонці за створенням надінтелекту та заявив, що вони «грають людськими життями», повідомляє The Wall Street Journal.
За словами дослідника, керівники та працівники провідних ШІ-лабораторій серйозно припускають, що неконтрольований розвиток технології може призвести до знищення людства вже до кінця цього десятиліття. Він наголосив, що це не рекламне перебільшення, а побоювання, які фахівці нібито відкрито обговорюють усередині компаній.
Читайте також: Китай готує людиноподібних роботів до можливого використання у війні
Коксон вважає, що майбутні системи можуть перевершити людей у багатьох сферах, самостійно здійснювати складні кібератаки, отримувати доступ до ресурсів і нарощувати власні можливості. На його думку, приватні компанії не повинні одноосібно ухвалювати рішення щодо запуску таких технологій.
Побоювання Коксона частково підтримав керівник однієї з команд із безпеки Anthropic Еван Губінгер. Він оцінив імовірність того, що ШІ може спричинити загибель людства протягом наступних десяти років, у понад 10%. Губінгер також визнав, що компанія поки не має надійного плану, який гарантував би контроль над майбутнім надінтелектом.