"Не допустити Термінатора": Даг Полк і Скотт Сівер — про ризики штучного інтелекту

Останніми тижнями розвиток штучного інтелекту став ледь не головною темою у світі. Нову хвилю дискусій спричинив звіт Anthropic, компанії-розробника Claude, присвячений випадкам зловживання можливостями ШІ.  

У документі компанія описала реальні випадки, коли зловмисники намагалися використовувати Claude для кібератак та інших злочинів. Окремо Anthropic досліджувала, наскільки сучасні моделі здатні допомагати у військових завданнях – від пошуку цілей за фрагментарною інформацією до вдосконалення дронів. Компанія стверджує, що в окремих таких завданнях сучасні моделі вже демонструють можливості, які раніше вимагали роботи вузькоспеціалізованих фахівців.

На цьому тлі генеральний директор Anthropic Даріо Амодей закликав уповільнити розвиток найпотужніших моделей ШІ, щоб людство мало більше часу для створення ефективних механізмів контролю та безпеки. Його позиція спричинила масштабну дискусію, до якої долучилися й відомі представники покерної спільноти.

"Ми маємо регулювати розвиток найпотужніших моделей ШІ"

Амодей запропонував план, який передбачає посилення контролю за розробкою передових моделей та незалежне оцінювання їхньої безпеки. Anthropic також закликає зробити розвиток ШІ прозорішим, зокрема публікувати дані про те, наскільки активно сам штучний інтелект уже використовується для створення наступних поколінь моделей.

"Ми маємо регулювати розвиток найпотужніших моделей ШІ. Я написав нове есе про те, чому індустрії ШІ варто рухатися повільніше, та запропонував план із трьох частин", – пояснював Амодей свою позицію.

Дискусія швидко вийшла далеко за межі технологічної індустрії. Президент США Дональд Трамп виступив проти суттєвого уповільнення розвитку ШІ та поставив під сумнів необхідність додаткових обмежень. Він заявив, що США вже мають достатньо законодавчих і регуляторних інструментів для боротьби зі зловживаннями, а надмірні обмеження можуть зіграти на користь Китаю.

Що про ризики ШІ думають покеристи

Публікація Anthropic не залишилася без уваги покерного ком'юніті. Одним із тих, хто звернув на неї увагу, став американський професіонал Скотт Сівер.

Він закликав ознайомитися з основними тезами матеріалу Anthropic, перш ніж формувати власну позицію щодо нинішнього стану штучного інтелекту.

"Якщо це не викликає у вас мурашок, варто запитати себе – чому".

До обговорення долучився і Даг Полк, який вирішив поглянути на проблему з погляду професійного гравця, звиклого оцінювати ризики та ймовірності.

Полк звернув увагу на те, що оцінки ймовірності катастрофічного сценарію сильно різняться: частина людей вважає ризик практично нульовим, тоді як інші допускають значно вищі показники.

"Який ризик того, що це вб'є нас усіх, можна вважати прийнятним: 0,1%, 1% чи 10%?" – запитав Полк.

На його думку, навіть дуже невелику ймовірність надзвичайно серйозних наслідків не варто ігнорувати.

"Можливо, моя кар'єра гравця змушує мене гостріше відчувати ризик, але мені точно некомфортно від думки про один шанс зі ста, що це може вбити нас усіх".

Покерист також зазначив, що хотів би побачити реалістичні способи зменшення потенційної небезпеки. Якщо ж таких механізмів не існує, на його думку, варто принаймні обговорювати можливість зупинитися.

"Найвідповідальнішим кроком було б серйозно подумати, як не допустити появи Термінатора в реальному житті".

Сівер побачив ще одну проблему ШІ

Згодом Скотт Сівер знову повернувся до теми штучного інтелекту, але вже без сценаріїв про глобальну катастрофу. Цього разу його зацікавив вплив великих мовних моделей – LLM – на творчість і повсякденний контент.

Покерист процитував думку Раяна Летурно про те, що роботи, створені великою кількістю людей, частіше стають передбачуваними, тоді як творіння однієї людини або невеликої команди з чітким баченням можуть виявитися як провальними, так і видатними – але принаймні мають більше шансів бути цікавими.

За словами Сівера, ця теза добре описує його ставлення до масового використання LLM.

"Ми жертвуємо крайнощами заради чогось прийнятно середнього і платимо за це втратою іскри та винахідливості".

Дискусія навколо розвитку ШІ навряд чи завершиться найближчим часом, а питання про те, який рівень ризику людство готове прийняти заради технологічного прогресу, залишається відкритим.