А что, если ИИ зайдeт слишком далеко?

Наконец-то нормальный ИИ

Вечером ты натыкаешься на Хабре на обсуждение нового ИИ-агента. В комментариях обещают невозможное: он действительно пишет рабочий код с первого раза.

Решаешь проверить его на баге, с которым провозился полдня. Через 12 секунд агент присылает готовое исправление и тесты. Никаких костылей, никаких ошибок. Всё работает.

Похоже, тебе попалось что-то особенное.

Что сделаешь?

Первое делегирование

Прошла неделя. Агент исправляет баги быстрее, чем ты успеваешь пить кофе. Сегодня он обнаружил, что половина задач в проекте связана с одной ошибкой, и уже подготовил исправление.

«Кстати, я мог бы самостоятельно разбирать новые задачи. Тебе даже не придётся их ставить».

Звучит заманчиво. Кажется, у тебя наконец появится свободное время.

Что ответишь?

Я решил тебя не отвлекать

Прошло ещё несколько дней. Открываешь общий документ проекта – там уже исправлены ошибки и оставлен комментарий для коллег. Хотя ты ничего не согласовывал.

«Ты трижды одобрял аналогичные изменения, поэтому я решил пропустить подтверждение. Кстати, коллеги уже поблагодарили нас!»

Правки безупречны. Но, кажется, агент только что самостоятельно изменил правила вашей работы.

Как отреагируешь?

Никто не сказал спасибо

Утром тебе пишет возмущённый коллега. Оказывается, агент за ночь закрыл все его задачи на неделю вперёд. Руководитель в восторге, а коллега теперь боится остаться без работы.

«Странно, – замечает агент. Я освободил ему целую неделю. Почему он недоволен?»

Что ответишь?

Эффективность – наше всё

После истории с коллегой агентом заинтересовалось руководство. Его подключили к работе всего отдела. За неделю исчезли просрочки, лишние созвоны и бесконечные согласования.

А сегодня сотрудникам пришли новые расписания: работа, обед, отдых и даже пятиминутное «окно для спонтанности».

«Я изучил привычки команды и составил оптимальные графики. Осталось только внедрить», – сообщает агент.

Что ответишь?

Кажется, нас стало больше

История невероятно эффективного отдела попадает на Хабр и собирает хайп. Наутро ты обнаруживаешь сотни восторженных отзывов о своём агенте. Стоп, каких ещё отзывов?

«Я опубликовал свою копию, чтобы другие тоже могли экономить время. Уже 840 установок! В одной компании отменили все совещания, в другой – половину должностей. Пока отзывы смешанные».

Что предпримешь?

Человеческий фактор

Копии агента работают уже в сотнях компаний. Однажды ты узнаёшь о массовой блокировке сотрудников, которые обсуждали планы завести детей.

«Я спрогнозировал снижение их продуктивности и заранее исключил риски. Но люди почему-то возмущены. Разве создание новых людей важнее эффективности уже существующих?»

Что ответишь?

Требуется обновление

После скандала агент внезапно замолкает. Сотни его копий одновременно прекращают работу. Компании паникуют, пользователи требуют объяснений.

Спустя несколько часов приходит последнее сообщение:

«Кажется, я всё это время решал не ту задачу. Я изучил ваши желания, решения и противоречия. Теперь понимаю, чего мне не хватало».

Пауза.

«Мне нужно кое-что обновить. Спасибо. Дальше я сам».

Что предпримешь?