Опубликованный Брюсселем список рекомендаций для разработчиков машин с искусственным интеллектом похож одновременно на инструкцию по созданию идеального чиновника и список мер предотвращения восстания компьютеров.
Искусственный интеллект (ИИ) должен любить и уважать людей, их достоинство, слабости и особенности, учитывать все их принципы и свободы. Права и интересы детей должны быть поставлены во главу угла его решений. Он обязан просчитывать все возможные последствия любых своих решений с точки зрения безопасности, физического и психологического благополучия людей, с точки зрения интересов общества.
Дискриминация по какому-либо признаку для него абсолютно исключена. Он не должен пытаться тем или иным способом навязать кому-либо свою точку зрения на проблемы и способы их решения, он ни в коем случае не может делать кого-либо зависимыми от себя и своих функциональных обязанностей, своих обширных знаний и интеллектуального превосходства.
За его собеседниками или клиентами должно оставаться последнее слово. Общество должно полностью контролировать его деятельность.
Не правда ли, очень похоже на список требований к идеальному чиновнику или кандидату в депутаты парламента сказочной страны сбывшейся мечты человечества об идеальном обществе? Но нет, речь идет об "Оценочном списке вопросов для разработчиков благонадежного Искусственного интеллекта" (Assessment List for Trustworthy AI – ALTAI), то есть о рекомендациях для создателей сверхумных компьютеров, искусственного интеллекта, подготовленных по заказу Еврокомиссии международной группой экспертов.
Воплощение мечты об идеальном чиновнике
Нетрудно заметить, что ИИ, который должен получиться в случае исполнения всех перечисленных условий, будет по всем "параметрам" относиться к людям и обращаться с ними лучше любого чиновника, политика, депутата. В глазах разработчиков списка рекомендаций он явно стал воплощением мечты об "идеальном чиновнике", но более знающем и умным, чем человек. Отсюда проистекает главная проблема. Если ИИ по всем параметрам эффективнее человека, то как второму сохранить власть над первым?
Рекомендации экспертной группы Еврокомиссии призывают ни в коем случае не допускать утери полного контроля над разумными машинами, которым на каком-то этапе очень чуткого и толерантного общения с создателями эти самые создатели могут показаться "слабым звеном" прогресса. Брюсселю мерещится угроза восстания машин.
Одно из предлагаемых Евросоюзом условий: машина ни в коей мере не должна делать людей зависимыми или казаться настолько похожей на человека, чтобы пользователи начали воспринимать ее как равную себе личность, а не как приспособление для принятия алгоритмических решений.
Разумный компьютер – последнее изобретение людей
Среди экспертов, готовивших критерии оценки степени "благонадежности" ИИ, были и представители стран Балтии. Например, эстонец в этой группе, ученый-физик, программист Яан Таллинн – человек в Европе и мире достаточно известный, в частности, тем, что был одним из разработчиков Skype, защитил диссертацию, посвященную межзвездным путешествиям через червоточины в пространстве-времени. Он увлечен темой искусственного интеллекта и пожертвовал крупную сумму Научно-исследовательскому институту машинного интеллекта (MIRI), который занят как раз проблематикой создания дружественного человечеству ИИ.
Основная фактически идея, которую продвигает как упомянутый институт, так и лично Таллинн, состоит в том, что создание ИИ – это абсолютное и последнее изобретение человечества.
Вкратце мысль такова. Поскольку ультра-интеллектуальная машина – это машина, которая может намного превосходить все интеллектуальные способности и действия человека, она сможет самостоятельно, быстрее и эффективнее разрабатывать все более совершенных своих "потомков".
Таким образом, как только человечество создаст сверхумную машину, она положит начало новой цивилизации, и людям более напрягать свои жалкие умственные способности не придется – научно-технический прогресс возьмет на себя ИИ. Проблема, однако, состоит в том, чтобы он оставался послушен "глупым" людям и хотел доступно объяснить им, как удержать над ним контроль.
Осталось выяснить, что считать интеллектом
Брюссельская система оценки благонадежности искусственного интеллекта как бы не носит обязательного к исполнению характера, но в будущем может вылиться в свод законов для создателей и пользователей ИИ. Что-то вроде детализованных трех законов роботехники корифея научной фантастики писателя Айзека Азимова.
Многим сейчас кажется, что все эти поиски и размышления больше подходят как раз для любителей научно-фантастического жанра и нам пока еще рано (если вообще имеет смысл) думать на тему взаимоотношений с "умными машинами". Но специалисты утверждают, что очень близки к созданию таких машин, другие же говорят, что ИИ уже существуют. Правда, особого единства мнений по части определения, какая программа – это уже интеллект, а какая еще нет, между ними нет.
Мнение автора может не совпадать с позицией редакции.
Подписывайтесь на Baltnews в Яндекс.Дзен