В один прекрасный день Ибрагим Диалло пришёл на работу и обнаружил, что был уволен компьютером. Его начальница была не в курсе
Ибрагим Диалло. Фото Предоставлено героем материала
Роботы и машины с каждым годом всё плотнее интегрируются в нашу повседневную жизнь – множество систем используются сегодня в магазинах, ресторанах, отелях и, конечно, наших офисах. Технике люди доверяют всё больше в надежде на то, что она более совершенная и беспристрастная по сравнению с человеком. Однако, как оказалось, и компьютеры бывают несправедливы. Жертвой такой "предвзятости" стал недавно Ибрагим Диалло – первый в мире человек, уволенный машиной. Компьютер даже разослал другим сотрудникам оповещение о том, что мужчина был снят с должности. Диалло рассказал Metro о своём неприятном опыте взаимодействия с новыми технологиями.
Кем вы работаете?
– Я разработчик программного обеспечения, родился в Гвинее, сейчас живу в Лос-Анджелесе. Так сложилось, что у меня хорошо получалось работать с техникой и заниматься программированием, поэтому это стало делом моей жизни. Начал зарабатывать этим уже на первом году обучения в колледже. Так я понял, что это моё призвание.
Как так получилось, что вас уволил робот?
– Система, о которой идёт речь, – это не тот робот, похожий на человека, о котором вы могли подумать. У него нет даже голоса, как у Siri. Это система автономных скриптов, которые не предполагают для решения задач человеческого участия. Система среагировала на какую-то ошибку в анкете, и поэтому немедленно вынесла решение о моём увольнении и разослала другим сотрудникам уведомления.
И что меня совершенно добило, так это то, что меня вывели из здания с вещами. И это не была шутка.
Что ты почувствовал, когда узнал, что уволен?
– Я не мог поверить в то, что случилось. Моя начальница уверяла меня, глядя в глаза, что я не уволен. И в этот момент на экране появилось письмо со словами: "Да, он уволен". Сначала мне это показалось забавным, но потом стало даже страшно. А система продолжала рассылать письма. Я ощущал себя как в фильме "Особое мнение" с Томом Крузом. Будто машина знает о моём неком проступке, который я совершу в будущем.
Чем всё закончилось?
– Я 3 недели не был в офисе, и никто не мог понять, как урегулировать систему. В итоге меня просто приняли на работу заново, будто я новый сотрудник. Меня, конечно, угнетала вся эта ситуация, но я понимал, что винить в ней некого. Люди меня поддерживали. По факту я был парнем, уволенным по невыясненным обстоятельствам. В итоге мне стало казаться уже, будто за мной кто-то следит. Спустя некоторое время после возвращения в офис я решил уйти сам и посвятить своё время работе над стартапом.
Что ты думаешь о том, насколько роботы интегрировались в нашу жизнь?
– Машины всегда были лучше людей при выполнении монотонных заданий, так что в этой области мы никогда их не переплюнем. Но вот что касается других задач, то нам нужно подумать. Искусственный интеллект, несмотря на своё название, не может урегулировать ситуацию, под которую не был запрограммирован заранее. Система, заточенная под увольнение людей, может только увольнять людей – она не принимает во внимание возможность возникновения ошибки. Прежде чем внедрять технологии в жизнь, мы должны думать о том, как они могут на эту нашу жизнь повлиять.
Что можно сделать, чтобы такие ситуации больше не повторялись?
– Любая автоматическая система должна быть сопровождена функцией возможности отмены операции. Именно из-за отсутствия такой функции со мной и случилось то, что случилось. Людям надо помнить, что последнее решение должно оставаться за ними.
Поэтому, прежде чем довериться искусственному интеллекту, помните – обычный человек сообразительнее любой машины.