Етична Рада
Світлана Дорошенко відкрила свою робочу пошту. Вона зовсім недавно влаштувалась працювати в технологічну компанію "ТФТ" і займала позицію керівниці з питань етики штучного інтелекту. Вона читала терміновий лист щодо тривожних закономірностей їхнього алгоритму вибору кандидатів.
"Система віддає перевагу кандидатам з престижних університетів", - написав Мирослав з відділу роботи з персоналом. "Ми втрачаємо можливість залучити таланти з різних університетів, і я турбуюся, що ми посилюємо наявну нерівність у технологічній галузі". Світлана була розчарована. Ще кілька місяців тому, вся компанія святкувала завершення успішного проекту – розробки цього алгоритму, який вмів опрацьовувати тисячі заявок і надавати начебто об’єктивні рекомендації. Але виявилося, що він керувався прихованими упередженнями (bias) у своїх навчальних даних – даних, що відображали десятиліття інституційних упереджень у технологічній індустрії, коли компанії надавали перевагу найму кандидатів лише з престижних навчальних закладів.
Вона відкрила нове повідомлення і надрукувала: "Потрібне термінове засідання Етичної Ради - Виявлено упередженість алгоритму найму". Етична Рада була її дітищем, яке вона створила, коли приєдналася до ТФТ. На відміну від традиційних корпоративних структур, де відповідальність за етику ШІ була розпорошена між відділами, Світлана наполягла на формуванні різноманітної команди експертів, які б колективно наглядали за етичними наслідками систем ШІ компанії.
За дві години Світлана і її команда зібралися в кімнаті для нарад. Тут були доктор Чернишов - штатний філософ, що спеціалізується на етиці та технологіях; Марія Романенко - експертка з дотримання вимог. Доктор Василенко - соціолог, який досліджує технологічну нерівність і працює як зовнішній консультант, доєднався через відеодзвінок, а також інженери ШІ і спеціаліст з дослідження даних.
"Проблема не лише технічна", - пояснив доктор Василенко, вказуючи на графіки, що показували схеми упередженості алгоритму.
"Ми спостерігаємо перетин соціальної нерівності з технологічними системами. Алгоритм навчається на історичних рішеннях щодо найму, які вже зазнали впливу системних упереджень".
Марія додала: "І коли системи ШІ працюють у такому масштабі, ми не просто використовуємо ці упередження – ми посилюємо їх з неймовірною швидкістю, оскільки ми і наші клієнти використовуємо їх для прийняття рішень. Більше того, згідно з Законом ЄС про ШІ, системи найму класифікуються як ШІ високого ризику, що вимагає відповідних заходів людського нагляду та прозорості у прийнятті рішень. Нам потрібно забезпечити відповідність нашої системи цим регуляторним вимогам".
Один з інженерів підняв руку. "Але ми використовували стандартні галузеві практики при розробці цього алгоритму. Що ми могли зробити інакше?" Доктор Чернишов відповів: "Саме тому освіта з етики ШІ така важлива. Недостатньо просто знати, як будувати ці системи – ми повинні розуміти їхній соціальний вплив. Кожне рішення в розробці ШІ має етичні наслідки, від вибору даних до впровадження". Світлана на хвилинку задумалася – така бесіда демонструє, чому проблеми етики ШІ не можуть бути вирішені жодною окремою дисципліною.
Протягом наступного тижня вони розробили дорожню карту з негайними та довгостроковими заходами. Негайні дії включали доналаштування алгоритму на більш різноманітних наборах даних, впровадження нових інструментів виявлення упереджень та встановлення обов'язкового навчання з етики ШІ для всіх працівників компанії. Вони також скоригували процес, щоб забезпечити ключову роль залучення людини у процес прийняття рішень, дозволяючи критично оцінити рішення, згенеровані ШІ.
Для вирішення критичного питання прозорості алгоритмів, вони створили шестимісячну дорожню карту для впровадження інтерпретованого машинного навчання, або "білий ящик ШІ". Ця довгострокова ініціатива дозволила б їм досліджувати та покращувати алгоритми машинного навчання і розуміти, чому вони приймають самі такі рішення. Хоча технічна реалізація потребувала часу, вони могли розпочати з покращення документації та навчання команди методам інтерпретації.
"Цей напрям набагато ширший, ніж виправлення одного алгоритму", - підсумувала Світлана. "Йдеться про визнання того, що етика ШІ більше не є необов'язковою. Кожна система ШІ, яку ми впроваджуємо, має реальний вплив на життя людей. Ми повинні вбудовувати етику в кожен етап розробки, від концепції до впровадження".
У своєму щомісячному звіті Світлана оновила керівництво компанії щодо їхнього прогресу; вона розмірковувала над тим, як інцидент продемонстрував кожен ключовий принцип, який вона відстоювала: критичну важливість етики ШІ, потребу в міждисциплінарних підходах, виклик алгоритмічної упередженості, важливість єдиної відповідальності та фундаментальну роль етичної освіти.
Проблема з алгоритмом найму була тривожним дзвінком, але також показала, що етична розробка ШІ можлива за наявності правильної команди та підходу. Завершуючи свій звіт, Світлана додала останню примітку:
"Зростаюча потужність ШІ вимагає зростаючої етичної відповідальності. Ми не можемо більше ставитися до етики як до другорядного питання – вона повинна бути в основі всього, що ми робимо".
Через шість місяців, реагуючи на глобальну рецесію та зниження піврічних фінансових показників, Світлані довелося визначити заходи з оптимізації бюджету. Їй потрібно було скоротити бюджет на 30%, але при цьому виконати річні цілі. З важким рішенням про скорочення розміру своєї команди, Світлана звернулася до Мирослава та Богдани, Директорки з юридичних питань, щоб проговорити альтернативні рішення. Під час обговорення вони вирішили, що відкрита вакансія менеджера з корпоративних ризиків та відповідності в юридичному відділі могла б зацікавити Марію. Проте, їй необхідно було б отримати додаткові знання у сфері управління корпоративними ризиками та юридичних операцій.
Марія висловила ентузіазм щодо можливості розширити свої навички. Разом - Світлана, Мирослав та Богдана розробили комплексний тримісячний план розвитку кар'єри Марії. План включав спеціалізоване навчання з управління корпоративними ризиками, основ юридичних операцій та регуляторних механізмів за межами ШІ.
Рішення було оптимальним для всіх. Оскільки юридичний відділ вже мав бюджет на цю посаду, внутрішнє переведення Марії означало значну економію коштів порівняно з зовнішнім наймом. Крім того, вона вже розуміла внутрішню культуру компанії, що означало набагато швидшу адаптацію на новому місці.
Для команди Світлани це рішення внутрішньої мобільності досягло необхідного скорочення бюджету на 30%, забезпечуючи при цьому збереження робочого місця і експертизи Марії в межах ТФТ. Оскільки Світлана запустила глобальну програму підвищення кваліфікації з етичних наслідків у ШІ по всій компанії 6 місяців тому, вона вже розвинула критичну масу експертизи з етики ШІ. Це надавало можливість продовжувати розробку етичних алгоритмів ШІ в ТФТ за зменшених витрат.
Інструменти ШІ, використані у цій статті
У процесі навчання в Оксфорді я працюю з величезною кількістю інформаційних джерел: від академічних статей, підручників та монографій до спеціалізованої літератури з навчальної програми, матеріалів лекцій, галузевих звітів, аналітичних оглядів та дослідницьких публікацій. Під час підготовки кожної статті я опрацьовую десятки різноманітних джерел, щоб забезпечити всебічний аналіз теми та глибоке розуміння предмету. Опрацювання такого масиву даних вимагає ефективного підходу, і саме тому я активно використовую інструменти штучного інтелекту, які допомагають мені адаптувати складну інформацію та зробити її більш доступною для читачів.
З власного досвіду я переконана, що в сьогоднішньому світі, насиченому інформацією, уникати інструментів ШІ через страх перед "штучністю" означає свідомо себе обмежувати. Я активно інтегрую ці інструменти у свою щоденну роботу, і це допомагає підвищити мою ефективність та продуктивність:
- NotebookLM — для опрацювання дослідницьких матеріалів та першоджерел, це допомагає мені виділити головне та створити ґрунтовні огляди;
- Claude (ШІ від Anthropic), Perplexity.ai, GhatGPT (OpenAI) — допомагають мені зі структуруванням статей, аналогіями і перекладом;
- Grammarly Premium — використовую для вичитки матеріалу;
- GhatGPT — для створення зображень за допомогою ШІ;
- ElevenLabs — для створення аудіоверсії англійською мовою з використанням штучного голосу, створеного на базі мого голосу.
