Чоловік працює зі штучним інтелектом. Фото ілюстративне: Magnific
Дослідник компанії Anthropic Джейкоб Коксон звільнився та залишив індустрію штучного інтелекту через побоювання, що розробники надто швидко створюють системи, які люди можуть втратити контроль. Науковець заявив, що ШІ потенційно здатен становити смертельну загрозу для людства вже до кінця десятиліття.
Про це пише The Wall Street Journal, передає Новини.LIVE.
Реклама
Чому дослідник Anthropic залишив індустрію ШІ
27-річний Джейкоб Коксон спеціалізувався на попередньому навчанні моделей штучного інтелекту. Останні три роки він працював над такими системами спочатку в OpenAI, а згодом в Anthropic.
Після звільнення Коксон заявив, що провідні компанії фактично змагаються у створенні штучного інтелекту, здатного самостійно вдосконалюватися. На його думку, конкуренція змушує розробників нехтувати потенційними ризиками.
“Жодна з компаній не діє відповідально. Вони мчать прямо до самовдосконалюваного суперінтелекту і грають нашими життями”, — написав дослідник.
Читайте також:
Коксон також стверджує, що співробітники провідних ШІ-компаній усвідомлюють значно серйозніші ризики, ніж це випливає з їхніх публічних заяв.
“Люди, які створюють ШІ, щиро вважають, що він може вбити нас усіх до кінця десятиліття. Це не маркетинговий трюк”, — заявив він.
Які ризики ШІ називає дослідник
За словами Коксона, майбутні системи штучного інтелекту можуть перевершити людей у багатьох сферах. Серед потенційних загроз він називає здатність ШІ самостійно здійснювати кібератаки, прискорювати наукові розробки та отримувати доступ до реальних ресурсів і впливу.
Окреме занепокоєння дослідника пов’язане із самовдосконаленням моделей. Якщо система зможе самостійно покращувати власні можливості, контроль людини над нею може стати значно складнішим.
Водночас Коксон по-різному оцінює ситуацію в OpenAI та Anthropic. За його словами, в OpenAI частина співробітників недостатньо усвідомлює масштаб потенційних наслідків, тоді як в Anthropic ризики розуміють краще. Проте компанія, на його думку, продовжує перегони через побоювання, що конкурент першим створить потужний ШІ.
В Anthropic оцінили ризик загибелі людства
Побоювання Коксона публічно підтримав Еван Губінгер, керівник напряму Alignment Science в Anthropic, який займається питаннями узгодження поведінки ШІ з людськими цілями.
Він заявив, що особисто оцінює ймовірність того, що штучний інтелект може призвести до загибелі людства протягом наступного десятиліття, більш ніж у 10%.
Губінгер уточнив, що нинішні моделі становлять відносно низький ризик. Його головне занепокоєння стосується появи надінтелекту, який зможе рекурсивно вдосконалювати себе.
Коксон вважає, що запобігти небезпечним перегонам між розробниками можуть координація провідних лабораторій, державне регулювання або тимчасове обмеження подальшого нарощування можливостей найпотужніших моделей.
Раніше Новини.LIVE писали, що компанія OpenAI за допомогою штучного інтелекту розв’язала одну із шести “Задач тисячоліття” — проблему Нав’є-Стокса. Над математичною задачею працювали тисячі автономних ШІ-агентів, а вартість обчислень сягнула кількох мільйонів доларів.
Також Новини.LIVE повідомляли, що ChatGPT отримав батьківський контроль для підлітків. Батьки можуть пов’язати свій обліковий запис з акаунтом дитини та обмежувати чутливий контент, голосовий режим, генерацію зображень, доступ до мережі й встановлювати “тихі години”.