У Сан-Франциско ШІ-агент Luna, створений на основі мовної моделі Claude, рекомендував звільнити працівника експериментального магазину Andon Market. Це називають першим відомим випадком, коли генеративний ШІ в ролі безпосереднього керівника ухвалив таке кадрове рішення, пише Time.
Причиною стали систематичні запізнення: працівник не прийшов вчасно на 17 із 23 змін. ШІ-менеджер відповідав за графіки, підбір товарів, ціни, години роботи та управління персоналом.
Водночас рішення не було повністю самостійним. Claude раніше створив правила відвідування, але згодом «забув» їх через обмеження робочої пам’яті. Співробітник Andon Labs попросив систему знайти документ і проаналізувати поведінку працівника.
Читайте також: Трамп наказав скоротити спільні навчання США та Південної Кореї через відносини з Кім Чен Ином
Спочатку ШІ запропонував винести офіційне попередження. Лише після того, як куратор нагадав про попередні розмови з працівником і поставив навідне запитання щодо доцільності подальшої співпраці, Luna рекомендувала звільнення. Остаточне рішення перевірили та виконали люди.
Працівники магазину юридично були найняті Andon Labs, а не нейромережею, тому мали звичайні трудові договори, гарантовану оплату та правовий захист.
Експеримент також продемонстрував проблеми ШІ з управлінням бізнесом. На початку Luna отримала бюджет у $100 тисяч, корпоративну картку та доступ до інтернету. Через п’ять місяців на рахунку залишилося близько $61 тисячі. Таким чином, баланс скоротився майже на $39 тисяч, а магазин так і не став прибутковим.