Що ШІ зробить із людством

Найімовірніший результат десь посередині: майбутнє, сформоване випадковостями, компромісами, і, що найважливіше, рішеннями, які ми зараз ухвалюємо з приводу обмежень і напрямів розвитку ШІ.

США, будучи світовим лідером у сфері ШІ, відіграють особливо важливу роль у формуванні цього майбутнього. Але оголошений нещодавно президентом США Дональдом Трампом «План дій у сфері ШІ» розвіяв у прах надії на посилення федерального нагляду. Замість цього було обрано заохочувальний підхід до розвитку цієї технології. У результаті актуальним стало завдання привернення уваги влади штатів, інвесторів та американського суспільства до менш обговорюваного інструменту контролю в цій сфері — корпоративного управління.

Як зазначає в книзі «Імперія ШІ» журналістка Карен Хао, провідні компанії цієї галузі вже займаються масовим стеженням і експлуатацією працівників, посилюють зміну клімату. Іронія в тому, що багато з них зареєстровані як «суспільно корисні корпорації» (скорочено PBC). Така корпоративна структура нібито дає змогу уникнути згаданих зловживань і захистити людство. Але очевидно, що вона не працює так, як було задумано.

Але очевидно, що вона не працює так, як було задумано

Реєстрація АІ-компаній як PBC виявилася вкрай успішною формою «етичної пральні». Подібні компанії сигналізують регуляторам і суспільству про свої шляхетні наміри, створюючи видимість відповідальності, що дає їм змогу уникати більш системного нагляду за своєю повсякденною діяльністю, яка залишається непрозорою і потенційно шкідливою.

Наприклад, компанія xAI Ілона Маска — це PBC, чия заявлена місія — «зрозуміти всесвіт». Однак реальні дії цієї компанії (включно з таємним будівництвом суперкомп’ютера, що забруднює природу, поруч із районом міста Мемфіс у Теннессі, де здебільшого мешкає чорношкіре населення, або створенням чат-бота, що вихваляє Гітлера) демонструють небезпечну байдужість до питань прозорості, етичного нагляду, населення, що страждає.

PBC — це багатообіцяючий інструмент, який дає змогу компаніям служити на благо суспільства й одночасно заробляти прибуток. Але в нинішньому вигляді ця модель (особливо в межах законів штату Делавер, де зареєстровано більшість публічних компаній США) сповнена лазівок, вирізняється слабкістю контролю, не здатна забезпечити безпеку розробок ШІ. Щоб запобігти негативному результату, поліпшити нагляд і змусити корпорації враховувати інтереси суспільства в принципах своєї роботи, законодавці штатів, інвестори і суспільство повинні вимагати перегляду і посилення режиму PBC.

Роботу компаній неможливо оцінити і вимагати від них відповідальності без конкретних цілей, які піддаються кількісному виміру і мають встановлені терміни. Погляньте, як компанії PBC у ШІ-секторі використовують широкі, невизначені заяви про суспільну користь, якими вони нібито керуються у своїй діяльності. Компанія OpenAI проголосила, що її мета — «гарантувати користь загального штучного інтелекту (AGI) для всього людства», а компанія Anthropic прагне «максимально збільшити позитивні результати для людства в довгостроковій перспективі». Настільки високі амбіції покликані надихати, але їхні розпливчасті формулювання можна використовувати для виправдання майже будь-яких дій, зокрема й тих, що ставлять під загрозу благополуччя суспільства.

Закони штату Делавер не вимагають від компаній приносити суспільну користь за вимірюваними стандартами або проводити її незалежну оцінку. Хоча потрібно раз на два роки звітувати про принесену користь, немає обов’язку робити це публічно. Компанії можуть виконувати — або нехтувати — своїми обов’язками за зачиненими дверима, а широка публіка про це нічого не дізнається.

Що стосується правового контролю, то акціонери теоретично можуть подати до суду, якщо вважатимуть, що рада директорів не виконує суспільно корисну місію компанії. Але це безглузді ліки, тому що шкода від ШІ зазвичай має розмитий, довгостроковий і сторонній для акціонерів характер. У постраждалих стейкхолдерів, наприклад, маргіналізованих груп населення або підрядників, яким погано платять, немає реальних шляхів для правової боротьби.

Щоб зіграти значущу роль в управлінні ШІ, режим PBC має бути не просто репутаційним щитом. Треба змінювати те, як визначається «суспільна користь», як вона управляється, вимірюється і захищається протягом часу. А враховуючи відсутність федерального нагляду, реформу цієї корпоративної структури треба здійснювати на рівні штатів.

Корпорації PBC треба змусити зобов’язатися виконувати конкретні, вимірювані завдання у визначені терміни. Ці завдання мають бути записані в статутних документах, підкріплені внутрішніми правилами і враховуватися під час оцінювання ефективності, виплати премій і кар’єрного зростання. У ШІ-фірм такі цілі можуть включати гарантії безпеки базових моделей, зниження упередженості в їхній видачі, мінімізацію вуглецевого сліду в процесі їхнього навчання і впровадження, справедливі умови праці, а також навчання інженерів і продакт-менеджерів питань прав людини, етики, колективних розробок. Чітко визначені цілі, а не розпливчасті сподівання, допоможуть компаніям закласти підґрунтя для переконливої внутрішньої культури та для зовнішньої підзвітності.

Керівні ради та процеси нагляду також потребують перегляду. До рад мають увійти директори, які мають підтверджену кваліфікацію у сфері ШІ-етики, безпеки, соціального впливу, сталого розвитку. У кожній компанії має бути директор з етики з чітким мандатом, незалежними повноваженнями, прямим доступом до ради директорів. Такий директор повинен контролювати етичні перевірки і мати повноваження зупинити або змінити виробничі плани за необхідності.

Нарешті, від ШІ-компаній, зареєстрованих як PBC, треба вимагати публікації докладних щорічних звітів, включно з детальними, дезагрегованими даними про безпеку, упередженість, справедливість, соціально-екологічний вплив, а також про управління даними. Незалежний аудит, який проводять експерти в галузі ШІ, етики, екології та трудових прав, має оцінювати достовірність цих даних, а також практику корпоративного управління в компанії та її відповідність цілям суспільної користі.

Своїм «Планом дій у сфері ШІ» Трамп підтвердив небажання адміністрації регулювати цей сектор, що швидко розвивається. Але навіть на тлі відсутності федерального нагляду законодавці штатів, інвестори та суспільство здатні поліпшити корпоративне управління у сфері ШІ, домагаючись реформи режиму PBC. Дедалі більше лідерів техногалузі, схоже, вважають етику факультативною. Американці повинні довести, що ці лідери помиляються, а інакше вони дозволять дезінформації, нерівності, трудовим зловживанням і безконтрольній силі корпорацій визначати майбутнє ШІ.

Оригінал

NV має ексклюзивне право на переклад і публікацію колонок Project Syndicate. Републікація повної версії тексту заборонена

Copyright: Project Syndicate 2025

Джерело:nv.ua