Генеральный директор Google Сундар Пичаи опубликовал на блоге компании первый кодекс принципов разработки систем искусственного интеллекта, которые должны сделать мир лучше.
Знаменитые три закона робототехники, или, как их называют, «правила поведения роботов», были сформулированы ещё в 1942г и сделал это знаменитый писатель-фантаст Айзек Азимов в рассказе «Хоровод» (впервые опубликован в марте 1942 года в журнале Astounding Science Fiction).
Эти законы гласят:
1. Робот не может причинить вред человеку, или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Прошло почти 80 лет и компания Google, будучи лидером в разработке искусственного интеллекта, решила сформулировать основополагающие принципы, которым она будет следовать при его создании.
Сундар Пичаи подчеркнул, что компания не будет заниматься разработкой ИИ приложений в любых технологиях, которые могут причинить вред человеку и обязательно учитывать потенциальную пользу и последствия подобных разработок. Помимо этого, Google отказывается участвовать в разработке оружия, технологий сбора и использования информации в нарушение международно принятых норм и технологий, чье предназначение идет вразрез с международным законодательством и правами человека.
Искусственный интеллект должен быть использован только на благо цивилизации и для этого в Google выделяют семь основных условий:
1. ИИ должен приносить пользу обществу.
Достижения в области искусственного интеллекта преобразят не только сферу развлечений, но и здравоохранение, безопасность, энергетику, транспорт и производство.
Рассматривая развитие и использование технологий искусственного интеллекта, Google будет принимать во внимание широкий спектр социальных и экономических факторов и продолжать разработку лишь тогда, когда «предполагаемая польза» значительно перевесит риски причинить вред. При этом компания будет стремиться к уважению культурных, социальных и юридических норм в странах, где она работает.
2. ИИ должен препятствовать созданию или укреплению предвзятости.
Никто не отрицает, что отличить справедливые предубеждения от несправедливых не всегда просто, и они различаются в разных культурах и обществах. Google будет учитывать такие деликатные особенности людей, как раса, этническая принадлежность, пол, национальность, доход, сексуальная ориентация, способности, политические или религиозные убеждения.
Эти аспекты беспокоят не только Google, но и власти многих стран: советы по робоэтике уже создаются в Нью-Йорке и Сингапуре.
3. ИИ должен способствовать принципам безопасности и проверяться на соответствие этим принципам.
Google обещает разрабатывать системы искусственного интеллекта с должной осторожностью и стремиться развивать их в соответствии с лучшими практиками в области исследований безопасности искусственного интеллекта.
4.ИИ должен быть подотчетен человеку.
В Google подчеркивают, что их системы будут воспринимать обратную связь, предоставят объяснения и возможности для апелляции по принятым решениям. Люди всегда смогут указывать и направлять ИИ.
5. ИИ должен соблюдать конфиденциальность персональных данных.
Google обещает всегда учитывать принципы конфиденциальности и предоставлять средства для её защиты. Кроме того, компания обеспечит соответствующую прозрачность и контроль над использованием данных.
6. ИИ должен соответствовать научным стандартам и критериям.
На помощь ИИ надеются исследователи в целом ряде сфер, и потому компьютерные помощники должны в полной мере соответствовать предъявляемым научным сообществом требованиям.
Google обещает делиться знаниями ИИ, публикуя учебные материалы, лучшие практики и исследования, которые позволят большему количеству людей разрабатывать полезные приложения ИИ.
7. Должна быть обеспечена масштабируемость и доступность применений ИИ с учетом выше обозначенных принципов.
Многие технологии имеют двойное назначение и могут использоваться в военных целях. Google будет работать над тем, чтобы ограничить число потенциально опасных приложений.
STARTUP NEWS
__________________________________
Рекомендуем почитать:
