Можно ли привить искусственному интеллекту способность отличать правильное от неправильного?
Многие считают, что в будущем мы будем полагаться на искусственный интеллект во всем, что мы делаем, даже в наших решениях. Действительно, вычислительная скорость искусственного интеллекта в тысячи раз выше, чем у человека. К сожалению, как бы быстро и хорошо вы ни думали, трудно принять правильное решение для всех. Можем ли мы действительно создать искусственный интеллект, который действительно сможет принимать важные решения и делать справедливые выводы?
Когда мы создаем искусственный интеллект, мы следуем принципу обработки данных в реальном времени. Конечно, если вам нужно принять решение или данные, которые повлияют на реальную жизнь, что еще вы можете сделать?Предположим, например, что перед искусственным интеллектом поставлена задача выяснить, кто именно великий режиссер. Компьютер сканирует данные самых успешных компаний мира и показывает, что таким должен быть генеральный директор. К сожалению, весьма вероятно, что эта оценка не соответствует действительности.
Это связано с тем, что искусственный интеллект не может просто дать идеальный ответ, просто изучив данные и показав результаты. Поэтому очень сложно иметь искусственный интеллект, способный принимать справедливые решения. Когда ученые из Стэнфорда спросили, какой «огромный» объем данных находится на сложном компьютере, искусственный интеллект дал в общей сложности 21 вариант ответа.«За последние годы мы не добились большого прогресса в обучении этике новых технологий» — сказал Джон Бэсл, исследователь из Стэнфордского университета, специализирующийся в этой области.
Это неудивительно. Google, Microsoft и даже Министерство обороны США пытались создать искусственный интеллект, который мог бы справедливо обращаться с любым человеком, но потерпели неудачу.В современном мире банковского дела, регистрации актов гражданского состояния и обороны наши средства к существованию основаны на искусственном интеллекте, поэтому мы должны об этом беспокоиться.Даже в медицинской сфере компьютеры должны решать, кого лечить и какие лекарства нужно внедрять в производство. Итак, можете ли вы доверить свою жизнь искусственному интеллекту, который не может отличить правильное от неправильного?
Первый пример: банковский сектор использует искусственный интеллект, чтобы рассчитать, стоит ли кредитовать человека. Конечно, это не проблема, поскольку для определения того, являетесь ли вы надежным заемщиком, используется только простая информация, такая как ваш доход и предыдущая кредитная история.Даже обычный банкир может совершить такую ошибку, но, поскольку он способен отличить правильное от неправильного, он может исправить ее, проверяя. Но для искусственного интеллекта это сложно. И таких проблем много.
Конечно, исследователи и разработчики осознали эту слабость и начали принимать корректирующие меры. Арвинд Наянан, исследователь из Принстонского университета, сказал, что для того, чтобы не совершать тех же ошибок, искусственному интеллекту сначала нужно привить идею быть личностью. По его словам, «искусственный интеллект, считающий себя ответственным человеком, обладает качествами думать о других и бояться ошибиться».Что касается политиков, то сенатор США Рон Уайден готовится представить закон об алгоритмической ответственности в 2022 году. В результате можно будет на законных основаниях запретить причинение вреда людям решением, которое можно охарактеризовать как жестокое со стороны искусственного интеллекта. В случае нарушения ответственность будет нести разработчик алгоритма.
Это связано с тем, что искусственный интеллект не может просто дать идеальный ответ, просто изучив данные и показав результаты. Поэтому очень сложно иметь искусственный интеллект, способный принимать справедливые решения. Когда ученые из Стэнфорда спросили, какой «огромный» объем данных находится на сложном компьютере, искусственный интеллект дал в общей сложности 21 вариант ответа.«За последние годы мы не добились большого прогресса в обучении этике новых технологий» — сказал Джон Бэсл, исследователь из Стэнфордского университета, специализирующийся в этой области.Это неудивительно. Google, Microsoft и даже Министерство обороны США пытались создать искусственный интеллект, который мог бы справедливо обращаться с любым человеком, но потерпели неудачу.В современном мире банковского дела, регистрации актов гражданского состояния и обороны наши средства к существованию основаны на искусственном интеллекте, поэтому мы должны об этом беспокоиться.Даже в медицинской сфере компьютеры должны решать, кого лечить и какие лекарства нужно внедрять в производство. Итак, можете ли вы доверить свою жизнь искусственному интеллекту, который не может отличить правильное от неправильного?Первый пример: банковский сектор использует искусственный интеллект, чтобы рассчитать, стоит ли кредитовать человека. Конечно, это не проблема, поскольку для определения того, являетесь ли вы надежным заемщиком, используется только простая информация, такая как ваш доход и предыдущая кредитная история.Даже обычный банкир может совершить такую ошибку, но, поскольку он способен отличить правильное от неправильного, он может исправить ее, проверяя. Но для искусственного интеллекта это сложно. И таких проблем много.Конечно, исследователи и разработчики осознали эту слабость и начали принимать корректирующие меры. Арвинд Наянан, исследователь из Принстонского университета, сказал, что для того, чтобы не совершать тех же ошибок, искусственному интеллекту сначала нужно привить идею быть личностью. По его словам, «искусственный интеллект, считающий себя ответственным человеком, обладает качествами думать о других и бояться ошибиться».Что касается политиков, то сенатор США Рон Уайден готовится представить закон об алгоритмической ответственности в 2022 году. В результате можно будет на законных основаниях запретить причинение вреда людям решением, которое можно охарактеризовать как жестокое со стороны искусственного интеллекта. В случае нарушения ответственность будет нести разработчик алгоритма.
