Не пропусти цікаві новини
Ювал Ной Харарі (ЮНХ), відомий історик і автор бестселерів, ділиться своїми думками про виклики та ризики, пов’язані з регулюванням штучного інтелекту (ШІ), у розмові з журналістом.
Журналіст (Ж): Деякі великі компанії, наприклад, OpenAI чи Microsoft, активно виступають за регулювання ШІ. Але чи не є це спробою посилити свої позиції? Адже дрібним компаніям буде важче конкурувати, якщо для роботи потрібні дорогі сертифікації, юристи та великі команди. Ми вже бачили, як GDPR лише збільшила вплив технологічних гігантів. Чи не повториться це з ШІ?
ЮНХ: Ви абсолютно праві, це важливе питання. На даний момент розвиток потужних моделей ШІ вже вимагає значних ресурсів: грошей, даних, експертів. Фактично, це гра для кількох гравців, і на глобальному рівні лише декілька країн лідирують у цій революції. Це дуже небезпечно, адже ситуація може повторити сценарій промислової революції, коли передові країни почали експлуатувати решту світу.
Сьогодні завдяки ШІ можна “захопити” країну, навіть не посилаючи туди солдатів. Достатньо отримати доступ до її даних і контролювати процеси дистанційно. Регулювання ШІ має враховувати не лише національні інтереси, але й глобальну рівновагу. Як мають діяти країни, що не беруть участі у гонці ШІ, але потерпатимуть від його впливу? Адже технологія впливатиме на всіх.
Ж: Давайте повернемося до промислової революції. Тоді, наприклад, електрику не регулювали як таку, а лише її використання. Чи не логічно діяти так само з ШІ, регулюючи лише його застосування, а не саму технологію?
ЮНХ: ШІ радше схожий не на електрику, а на щось більш автономне, наприклад, на людей. Він може приймати рішення та створювати нові ідеї. Його потенціал для політичних, економічних і культурних змін просто величезний.
Деякі закони можна адаптувати до цифрової епохи. Наприклад, принцип “не кради”. Раніше техгіганти стверджували, що цей закон не поширюється на дані. Вони брали ваші дані, маніпулювали ними, продавали їх, і це не вважалося крадіжкою. Але це потрібно змінити: якщо в реальному світі не можна вкрасти чийсь урожай, то в цифровому – не можна брати дані без дозволу.
Інший приклад – боротьба з фальшивими людьми. У минулому це було технічно неможливим, але зараз можна створити мільярди фейкових особистостей. Якщо це дозволити, суспільство втратить довіру, що стане катастрофою для демократії. Нам потрібні жорсткі закони: за створення фейкових людей чи платформ, які це допускають, має бути серйозна відповідальність.
Ж: А як щодо випадків, коли створення фейків має безневинний характер? Наприклад, я зі своїм сином створив кілька фейкових персонажів для гри.
ЮНХ: Проблема не в створенні, а в тому, як це використовується. Якщо ви взаємодієте з ШІ, наприклад, з лікарем-ботом, важливо, щоб вам чітко повідомили: “Це не справжній лікар, а ШІ”. Прозорість – ключ до вирішення цього питання.
Ж: Добре, а як щодо соціальних мереж? Що, якщо людина використовує ШІ для формування своїх відповідей у дискусіях?
ЮНХ: Це прийнятно, якщо людина бере відповідальність за те, що публікує. Проблема виникає тоді, коли платформи заповнюються ботами, які генерують контент у неймовірних обсягах. Уявіть платформу, де більшість повідомлень створюють не люди, а мільйони ботів, які пишуть якісніше, переконливіше і персоналізованіше, ніж люди. У такому світі демократія стає недієздатною.
Щоб зберегти демократичне суспільство, необхідно запобігти ситуації, коли публічний діалог повністю захоплюють боти.
NT: Ви кажете, що якщо я маю свою модель великого мовного інтелекту, яку я розробив зі своєю командою програмістів, я повинен виділити 20% цієї команди на забезпечення безпеки та звітувати перед певним органом про виконання цього завдання?
YNH: Так само, як коли ви створюєте автомобіль, у вас є люди, які працюють над тим, щоб зробити його якомога кращим, але також є ті, хто займається питаннями безпеки. Тому що, навіть якщо у вас немає власних етичних принципів, ви знаєте, що жоден уряд не дозволить вашому автомобілю вийти на дорогу, якщо він небезпечний.
NT: Це переконливо, і це чудова ідея. Але давайте повернемося до соціальних медіа. Наприклад, Facebook або Twitter у 2012 році. Вони могли б сказати, що 20% їх працівників займаються безпекою: видаленням непристойного контенту, пошуком терористів тощо. Але як уряд міг би заздалегідь передбачити їхній вплив на демократію через кілька років?
YNH: Я не думаю, що хтось може передбачити наслідки за 5 чи 10 років. Однак регулятивні органи, які працюють з ШІ, повинні навчитися швидко реагувати на зміни. Наприклад, шкода від алгоритмів соціальних мереж була помічена ще у 2016-2017 роках, наприклад, у М’янмі. Люди сигналізували про небезпеку, але корпорації не реагували. Якщо весь талант зосереджується лише в приватних компаніях, які розробляють технології, то це програна битва. Але якщо ми направимо частину цього таланту в державні установи чи неурядові організації, які контролюватимуть безпеку, включаючи соціальну та психологічну, тоді ситуація покращиться.
NT: Але чи не дає це великим компаніям перевагу, бо вони можуть дозволити собі дотримання жорстких регуляцій, а новачки — ні?
YNH: Це серйозне питання. Але вже зараз ресурси, необхідні для розробки потужних моделей ШІ, такі великі, що це гра для небагатьох. А на глобальному рівні це лише кілька країн. Під час індустріальної революції кілька країн використали перевагу для експлуатації інших. Зараз із ШІ це може повторитися. Адже для домінування не потрібно посилати солдатів — достатньо контролювати дані. Регулювання має враховувати не лише національні інтереси, а й глобальну справедливість.
NT: Можливо, ШІ більше схожий на електрику, ніж на потяги, і слід регулювати не сам ШІ, а його використання?
YNH: Ні, ШІ навіть потужніший, ніж потяги. Він може приймати рішення самостійно й створювати нові ідеї. Його вплив на політику, економіку та культуру колосальний. Ми можемо застосовувати до ШІ старі закони. Наприклад, закон «не кради». Те, що компанії брали дані без дозволу, — це і є крадіжка.
Так само у світі завжди діяли суворі закони проти фальшивомонетництва, адже це загрожувало фінансовій системі. Зараз ми вперше можемо створювати «фальшивих людей» — мільярди ботів, яких неможливо відрізнити від реальних людей. Якщо дозволити це, довіра в суспільстві зруйнується, а з нею — демократія. Нам потрібні суворі закони проти підробок людей. Якщо платформа дозволяє «фальшивих людей», це має каратися суворо.
NT: Але чи можна трохи послабити ці правила для особистих проєктів, наприклад, коли я створюю аватари з дитиною для розваг?
YNH: Ніхто не забороняє створювати аватарів, але їх не можна видавати за реальних людей. Взаємодія з ШІ, наприклад, як із лікарем, може бути дуже корисною, але людина повинна чітко знати, що це не справжній лікар, а ШІ.
Ця дискусія нагадує нам, що регулювання ШІ — це не просто технічне завдання, а етичний виклик, який визначить обличчя майбутнього. Як ми використовуємо нові технології — для збагачення людства чи для створення ще більших нерівностей — залежить від наших сьогоднішніх рішень. ШІ має стати не інструментом хаосу, а ключем до нової ери, де людство буде впевнене в своєму майбутньому, а не боятися його.