Искусственный интеллект сегодня: Состояние искусственного интеллекта в 2019 году – Искусственный интеллект — Википедия

Содержание

Состояние искусственного интеллекта в 2019 году

Повторите слово много раз, и оно потеряет первоначальный смысл. Для многих из нас словосочетание «искусственный интеллект» уже давно означает гораздо более широкое понятие – ИИ сейчас присутствует практически во всех технологиях, и управляет всем – от телевизора до зубной щетки. Тем не менее, сам термин практически потерял свое значение.

Однако этого нельзя сказать о самой технологии, которая постоянно развивается – хорошо это или плохо. Искусственный интеллект используется в здравоохранении, помогает людям писать музыку и книги, проверяет наши анкеты, выносит решение о кредитоспособности и корректирует фотографии с телефонов. Другими словами, эта технология принимает решения, влияющие на нашу жизнь, хотим мы этого или нет.

Абстрагироваться от ажиотажа и шумихи, которые создают технологические компании и рекламные агентства вокруг ИИ, очень непросто. Возьмем, к примеру, зубную щетку Oral-B Genius X – одно из множества устройств, представленных в этом году на конференции CES. Производители щетки громко заявляют о ее основанных на ИИ возможностях. Однако изучив повнимательнее пресс-релиз, мы поймем, что это всего лишь информация о том, чистим ли мы зубы достаточное количество времени и в нужном направлении. Да, в щетку встроены умные сенсоры, сообщающие, в каком месте ротовой полости находится зубная щетка, однако называть это искусственным разумом – просто глупо.

Другую проблему представляет неправильное понимание технологии. Хвалебные статьи в прессе могут сильно приукрасить продукт, назвав инновационной технологией любое имеющее хоть отдаленное отношение к ИИ решение. Очень часто это сопровождается непониманием того, что именно представляет собой искусственный интеллект. Для людей несведущих это может представлять достаточно серьезную проблему, и они могут объединять современный ИИ с более знакомой им версией –  представление о компьютере, во много раз более умном, чем человек. Специалисты называют этот особый вид ИИ общим искусственным интеллектом, однако, если что-то подобное когда-нибудь и будет создано, это произойдет очень не скоро. А до тех пор вряд ли кому-то поможет преувеличение возможностей или интеллекта систем ИИ.

Таким образом, сейчас предпочтительнее говорить о «машинном обучении», нежели об искусственном интеллекте. Технология «машинного обучения» представляет собой раздел ИИ, охватывающий множество методов, которые оказывают большое влияние на сегодняшний мир (в том числе так называемое глубокое обучение). Это словосочетание не несет в себе мистики ИИ, но более точно объясняет возможности технологии.

Каким образом функционирует машинное обучение? Существует множество определений этой технологии, но одно из наиболее точных описывает ее как предоставление компьютерам возможности самостоятельно обучаться. Но что заключается в этом определении?

Начнем с проблем. Представим, что нам нужно создать программу, способную распознавать кошек (по какой-то непонятной причине программы всегда используют котиков). Можно попробовать сделать это знакомым способом, запрограммировав явно выраженные правила, такие как «у кошек острые уши» и «кошки пушистые». Однако как поведет себя программа, если мы покажем ей картинку с изображением тигра? Чтобы ввести в программу все необходимые правила, понадобится очень много времени, кроме того, нам потребуется дать определение всем видам сложных моделей, таких как «пушистость» и «острота». Гораздо проще позволить машине обучаться самостоятельно. Системе выдается большое количество фотографий, которые она просматривает, определяя собственные закономерности увиденного. Она устанавливает взаимосвязи, поначалу большей частью случайно, однако в результате постоянных тестирований остаются наиболее оптимальные варианты. Со временем машина очень точно научится определять то, что является, а что не является кошкой.

Объяснение процесса не содержит ничего нового, однако на самом деле важно не только понимать смысл, но и подумать о том, что он подразумевает. Каковы побочные эффекты существования подобной принимающей решения системы?

Реклама на Компьютерре

Главное преимущество метода очевидно – отпадает необходимость программирования. Конечно, придется выполнять большое количество обновлений, оптимизировать процесс обработки информации системой и находить более удобные способы усваивания этой информации, однако системе не нужно говорить, что именно ей искать. То есть машина может замечать закономерности, на которые может не обратить внимания человек. А поскольку программе нужны только данные – единицы и нули – ее можно обучить огромному количеству заданий, ведь современный мир переполнен этими данными. Если представить, что машинное обучение – это молоток, то цифровой мир полон гвоздей, готовых быть забитыми на свои места.

Тем не менее, не стоит забывать и о недостатках. Если компьютер обучаем не мы, как узнать, каким образом он принимает решения? Системы машинного обучения не могут объяснить своего образа мыслей, следовательно, алгоритм может использоваться не в самых лучших целях. Кроме того, поскольку компьютеру известны только данные, которые в него загрузили, у него может сформироваться неправильное представление о мире или он может оказаться способным выполнять только узкие задания, похожие на просмотренные ранее данные. Машина не обладает здравым смыслом, присущим человеку. Можно создать лучшую в мире программу распознавания котиков, но она никогда не расскажет, что котикам не следует ездить на мотоциклах и не определит подходящее для кошки имя.

Научить компьютеры обучаться самостоятельно – блестящее решение. И, так же как любое решение, оно подразумевает некоторые компромиссы. Да, в системах ИИ присутствует интеллект. Однако он не является врожденным и играет по своим правилам. Это то же самое, что спрашивать: «Насколько умна эта книга?» или: «Каким опытом обладает сковорода?»

Так на каком этапе сейчас находится развитие искусственного интеллекта? В течение нескольких лет (и до сих пор) заголовки новостей обещали нам очередной технологический прорыв, однако сейчас некоторые эксперты считают, что мы достигли определенного рубежа. Тем не менее, это вовсе не означает, что развитие технологии остановилось. С научной точки зрения, существует большое количество направлений для изучения внутри существующих знаний, а с точки зрения продукта, пока мы видем только верхушку алгоритмического айсберга.

Венчурный капиталист и бывший исследователь ИИ Кай-Фу Ли (Kai-Fu Lee) описывает сегодняшнее состояние технологии как «эпоху реализации» – время, когда технология начинает «выходить из лаборатории в реальный мир». Другой специалист, Бенедикт Эванс (Benedict Evans) сравнивает машинное обучение с реляционными базами данных – видом корпоративного ПО, завоевавшим популярность в 90-е годы и кардинальным образом трансформировавшим многие отрасли. Оба ученых сходятся на мнении, что мы подошли к тому моменту, когда ИИ начинает становиться обычным явлением. «В конечном итоге почти все будет основано на машинном обучении, и это никого не будет удивлять», – говорит Эванс.  И он прав, однако мы пока этого не достигли.

Пока искусственный интеллект – машинное обучение – все еще что-то новое, зачастую необъяснимое и недостаточно изученное, однако в будущем эта технология войдет в нашу жизнь настолько, что мы перестанем ее замечать.

Источник

 

 

70% россиян не понимают сути искусственного интеллекта. Объясняем, что это такое и на что способен ИИ — Naked Science

Цифровая неграмотность

Согласно опросу, о технологии искусственного интеллекта слышали 75% респондентов: 38% знают, в каких сферах его можно применять, и лишь 29% смогли дать определение термину. Наиболее содержательными познаниями об ИИ обладают мужчины (42%) и молодые люди в возрасте от 18 до 24 лет (40%).

Несмотря на не слишком обширные познания в области artificial intelligence, жители России оказались технооптимистами. Почти 70% опрошенных готовы лично пользоваться сервисами на основе искусственного интеллекта в сфере госуслуг, чуть более половины готовы довериться помощи ИИ в бытовых вопросах, в сфере развлечений, а также в таком важном вопросе, как оказание медицинских услуг.

Половина респондентов ощущают по отношению к искусственному интеллекту восхищение, интерес и воодушевление, чуть меньше трети относятся к технологии нейтрально, и лишь одна восьмая часть чувствует к ИИ негатив. Еще примерно 7% описали свое отношение как «удивление и другие эмоции». 87% поддерживают ведущую роль государства в развитии технологии, однако желание пройти обучение в этой сфере в ближайшие несколько лет изъявили лишь 41%.

Человекоподобный робот София вполне может убедить человека в наличии сознания / © DB Post

Итак, вкратце отношение россиян к искусственному интеллекту можно выразить фразой «не понимаю, но одобряю». И это реальная проблема. Как писал Артур Кларк, «любая достаточно сложная технология неотличима от магии», — а значит, отношение к такой технологии базируется не на достоверных фактах, а на информации от моральных авторитетов. И поменять благожелательное отношение граждан к ИИ можно очень быстро. Давайте попробуем все же разобраться, что скрывается за этими буквами.

Вопрос о разуме

«Искусственный интеллект — наука и технология создания интеллектуальных машин, в особенности интеллектуальных компьютерных программ. Это [понятие] связано с аналогичной задачей использования компьютеров для понимания человеческого интеллекта, но ИИ не должен ограничиваться биологически наблюдаемыми методами». Такое определение дал термину тот, кто его и придумал в 1956 году, — американский программист Джон Маккарти.

В своей брошюре «What is artificial intelligence» Маккарти вторым же пунктом дает определение интеллекта: «вычислительный компонент способности достигать целей». Исходя из этого, ИИ можно описать как способность машины обучиться определенной способности и выполнять ее не хуже, чем самые способные из людей.

В оригинале цитаты двумя абзацами выше Маккарти использовал слово «intelligent», что можно перевести как «разумный». Однако мы сознательно этого не делаем. «Наличие интеллекта не предполагает наличие сознания. Это — распространенное заблуждение, принесенное в мир писателями научной фантастики», — пишет в своей статье «ИИ для динозавров» специалист в области программного обеспечения Адам Маккей. Компьютер может обыграть лучших из лучших в го, шахматы или «Свою игру», но осознать свое достижение он попросту не способен.

Похож ли мозг на компьютер

Там, где говорят или пишут об искусственном интеллекте, часто возникают еще два термина: машинное обучение и нейронные сети. С первым все довольно просто: компьютер получает какие-нибудь данные и на их основе чему-то учится. Например, с высокой точностью определять раковые заболевания на начальной стадии или распознавать номера автомобилей-нарушителей.

С нейронными сетями дело обстоит сложнее. Это компьютерная имитация нейронных комплексов, с помощью которых мы с вами обрабатываем поступающую через органы чувств информацию. Компьютер тоже так умеет, только его нейроны — не клетки, а определенным образом организованные куски кода. Они принимают некоторые входные данные, производят с ними определенные вычисления и на основе конкретных параметров решают, стоит ли передавать информацию далее и в каком объеме.

Простая схема трехслойной нейронной сети / © Downtown

О чем это говорит? О том, что между компьютером и мозгом гораздо больше общего, чем мы привыкли думать. И дело даже не в определенных чертах вычислительных машин, напоминающих биологические структуры, а скорее в компьютероподобности содержимого наших черепных коробок. Мозг имеет долговременную и кратковременную память, пользуется алгоритмами, имеет многослойную иерархическую систему отбора информации по ее ценности. Ну чем не «мягкий компьютер»?

Как учится искусственный интеллект

Чтобы обучить ИИ, необходимо предоставить ему определенные данные и выводы, которые можно сформировать на основе этих данных. Например, можно «скормить» компьютеру набор фотографий кошек и собак. Изначально искусственный интеллект не знает, в чем различия между этими двумя видами существ, и просто выдает ответы случайным образом.

Но по мере обработки большого количества изображений нейросеть выделяет признаки, по которым одного зверя можно отличить от другого. Это точно такие же признаки, которыми пользуется маленький ребенок, познавая жизнь и различая животных: например, форма ушей, расположение глаз, пропорции тела. ИИ хранит эти признаки в виде определенных математических соотношений.

Там, где человек видит кота, компьютер видит математические данные / © Manoj Joshi

В итоге мы можем натренировать «компьютерный разум» искать для нас в интернете картинки с определенными породами животных — как это происходит при поиске по изображениям в Google или «Яндексе». Или же определять животных на видеозаписях. Или рисовать котов — в общем, что нам только заблагорассудится сделать.

Способен ли искусственный интеллект творить

ИИ хорош не только в интеллектуальных играх или классификации данных. Нейросети способны написать музыкальное произведение, причем самых разных жанров — хоть классику, хоть этнику, хоть «ненаписанный альбом» Егора Летова. Литература? Легко — в соавторстве с Сергеем Лукьяненко созданный специалистами «Яндекса» ИИ выдал рассказ «в стиле Гоголя», а нейросеть, написанная американским программистом, накропала дополнение к «Песне льда и пламени» Джорджа Мартина. Нарисовать картинку для искусственного интеллекта вовсе проще простого: художества нейросетей даже за деньги продаются.

Нейросеть, созданная сотрудниками Яндекса Алексеем Тихоновым и Иваном Ямщиковым, научилась писать музыку в стиле Александра Скрябина / © Youtube — Яндекс

Но является ли все это творчеством? Однозначно нет, считает философ Александр Мишура. «Роботы могут создавать такие произведения искусства, которые даже эксперт не отличит от созданного человеком. Но важным условием творчества является создание новых эстетических норм, — говорит ученый. — Программа может следовать тем или иным нормам, которые в нее заложил разработчик, но не сможет сама создать новый жанр или направление».

Иными словами, ИИ на сегодня может быть прилежным подражателем, но не способен быть творцом. Чтобы создавать что-то оригинальное и новое, мало знать правила и четко их выполнять: нужно знать время и место, когда нарисованный тобой на холсте черный квадрат станет новым эталоном искусства. Нужна способность выходить за установленные рамки, а на это искусственный интеллект пока что не способен.

Когда искусственный интеллект получит сознание

Как мы уже писали выше, интеллекта компьютерам хватает, а вот сознание у них отсутствует. Как же создать «искусственный разум», который будет обладать сознанием и станет разумом безо всяких кавычек? «Сделать его уязвимым», — говорят исследователи Кинсон Ман и Антонио Дамасио.

Кадр из фильма Ex Machina, главная героиня которого — обладающий сознанием робот Ава / © New York Times

По мнению ученых, ощущая собственную уязвимость и пытаясь избежать гибели (или, например, отключения), ИИ сможет познать ценность собственного существования и на ее основе получить полноценное сознание. Вынужденный думать о хрупкости существования и затрачивая усилия на поддержание целостности и функциональности «организма», искусственный интеллект получит гораздо больше возможностей для самосовершенствования.

Для реализации подобной концепции Ман и Дамасио предлагают скомбинировать методики машинного обучения и так называемую мягкую робототехнику (роботизированные устройства, созданные из мягких материалов, имитирующих биологическую ткань). Подобная комбинация создаст у роботов с AI определенное чувство собственной уязвимости и гомеостатическую реакцию на внешние изменения.

Где сегодня можно найти искусственный интеллект

ИИ есть почти где угодно — и это не преувеличение. Когда вы при помощи смартфона фотографируете что-либо, искусственный интеллект определяет лица людей, оптимизирует яркость и меняет экспозицию. Когда звоните в колл-центр — ИИ определяет, к какому специалисту вас нужно переадресовать. Когда переводите текст — ИИ подбирает верные значения слов и выстраивает предложение.

Некоторые устройства, в которых используется искусственный интеллект, давно уже созданы, хотя и не стали еще обыденной частью реальности: например, автономные авто и смарт-дома. А в Китае, например, построенная на искусственном интеллекте система Zero Trust помогала властям искать коррумпированных чиновников: за несколько лет она выявила больше восьми тысяч таковых. Так что сколько бы процентов людей ни были недовольны тем, что компьютеры постоянно умнеют, выбора нет: artificial intelligence — часть нашей жизни.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.

Скопировать ссылку

Новости искусственного интеллекта

Искусственный интеллект подразумевает собой искуственно созданную машину, умеющую решать задачи с возможностью дальнейшего самообучения. Впервые это словосочетание было использовано Джоном Маккарти в 1956 году, несмотря на то, что вопросы о разумных машинах поднимались и ранее. Например в 1950 году один из пионеров в области вычислительной техники ученый Алан Тьюринг написал статью «Может ли машина мыслить?», в которой описал процедуру, определяющую разумность машины. В дальнейшем эта процедура получила название теста Тьюринга.


1
Технологии

Как правило, на разработку нового медицинского препарата уходит от трех до пяти лет, после чего начинается этап его тестирования с участием добровольцев. Британский стартап AI Exscientia и японская фарм-компания Sumitomo Dainippon Pharma намерены сократить эти сроки до 1 года.



0
Технологии

Новый совместный проект Бьорк и компании Microsoft получил поэтическое название «Kórsafn». В нем используется искусственный интеллект, которому поручено сочинять музыку в режиме реального времени, черпая вдохновение из смены погоды и событий в небе Земли. В частности, он умеет реагировать на пролетающих птиц и…


0
Технологии

Разработчик Пранав Мистри, ведущий сотрудник проекта Neon в компании Samsung, опубликовал ликующий твит о готовности познакомить мир с новой технологией. Она получила рабочее название «искусственные люди» и, по-видимому, является самым совершенным на сегодняшний день дипфейком в мире. По крайней мере, именно в таком…


2
Технологии

Сервис Airbnb сообщает, что будет применять новую интеллектуальную систему оценки клиентов, чтобы отсеять потенциально нежелательных личностей. К таковым относят как людей с явными психологическими отклонениями, так и тех, кто проявляет качества нарциссизма или маккиавелизма. Это позволит обезопасить арендодателей и…



0
Наука

После смерти Людвига ван Бетховена в 1827 году осталось лишь несколько фрагментов того, что должно было стать его «10-ой симфонией». Увы, маэстро не оставил записей о своих замыслах, а потому нельзя угадать, какой должна быть мелодия. Недавно было принято соломоново решение – доверить задачу дописать симфонию…


0
Технологии

Правительство Китая на законодательном уровне запретило использовать дипфейки и другие подобные технологии искусственного интеллекта в средствах массовой информации. Соответствующий закон вступает в силу с 1 января 2020 года.


0
Сделай Сам

В рамках минувшей «Черной пятницы» авторы карточной игры «Cards Against Humanity» провели конкурс, заставив профессиональных сценаристов состязаться с ИИ в сочинении черных шуток по правилам этой игры. В течение 16 часов обе стороны собирали карты и генерировали новые комбинации, которые затем выставлялись на продажу…



0
Интернет

В сервисе DoNotPay, который использует искусственный интеллект для оказания юридической помощи, появилась новая услуга. Она называется «Do Not Sign» («Ничего не подписывайте!») и предназначена для анализа широкого спектра лицензионных соглашений. Это первая платная услуга данной компании, но и результат ее работы того…


2
Наука

Японские исследователи из Университета Ямагато за последние 10 лет в рамках большого проекта по изучению артефактов плато Наска обнаружили 142 новых геоглифа. Недавно они вместе с компанией IBM Japan провели эксперимент, поручив проанализировать собранные данные специальному ИИ. И тот отыскал еще один, 143-й по счету…


0
Технологии

Исследовательская лаборатория OpenAI открыла доступ к полной версии нейросети «GPT-2», предназначенной для генерации осмысленного текста на произвольные темы. Она была готова еще в феврале, но разработчики оказались настолько впечатлены результатами активности своего детища, что просто побоялись выпускать его в мир.…



0
Технологии

«DeepFake», что в переводе значит «глубокая подделка» – не только англоязычный словесный новодел. Сегодня дипфейк – это в первую очередь бурно развивающаяся, доступная и стремительно набирающая популярность среди пользователей Интернета технология синтеза изображений с помощью искусственного интеллекта.


0
Софт

«Синестезия» – это редкий психофизиологический феномен, при котором происходит смешивание разных сенсорных ощущений. Например, у человека появляется способность слышать цвета или чувствовать вкус слов. Обычно синестезия возникает при серьезных сбоях в работе нервной системы, при употреблении веществ для расширения…


0
Технологии

Игровой искусственный интеллект последней версии AlphaStar открыл новый уровень возможностей интеллектуальных систем. Впервые в истории ИИ победил в обычной, а не модифицированной версии онлайн-игры StarCraft II, сражаясь с людьми на условиях, в которых состязаются живые киберспортсмены. И последовательно добился…



0
Интернет

Группа программистов Dadabots запустили на YouTube трансляцию работы новой нейрости, которую обучили сочинять мрачные тексты для песен в стиле «дез-метал». Саму музыку, если ее можно так назвать, написала другая нейрость. Если вслушаться в то, о чем поет этот своеобразный дуэт, может создаться стойкое ощущение…


16
Софт

Новая браузерная игра Aim and Shoot дает отличное представление о том, как работают нейросети, как обучаются и на что способны, если дать им волю. Программист Виктор Рибейру для этого ее и разработал – любой пользователь может на личном опыте ощутить, как учится искусственный интеллект, как быстро он адаптируется к…


2
Технологии

Недавно на Amazon появились товары от онлайн-магазина фантастической литературы Booksby.ai, и 19 книг уже были проданы. Интересно в этом факте то, что все эти книги являются творчеством искусственного интеллекта. Авторы проекта Booksby.ai, художник Андреас Рефсгаард и студент Миккель Лузе из Копенгагена решили…



0
Автомобили

Для опытных водителей контроль за техникой их вождения с помощью адаптивного круиз-контроля может показаться расслабляющим и одновременно добавить езде элемент роботизации. Следуя этой идее, Hyundai приступила к разработке новой формы круиз-контроля, способной к изучению стиля вождения конкретного человека и…


1
Технологии

Компания McDonald’s озвучила намерение приобрести стартап Apprente из Кремниевой долины. Он специализируется на создании голосовых платформ с искусственным интеллектом для ведения сложных, многоязычных, многоуровневых и многоэлементных диалогов. Эту передовую разработку хотят использовать, чтобы заменить…


0
Интернет

Интернет всерьез увлекся приложениями для перерисовки персональных фотографий под разные задачи, и недавно появился еще один тематический сервис AiPortraits.com. Инструмент, созданный в Лаборатории Массачусетского технологического университета, сможет переделать изображение человеческого лица в картину. Искусственный…



0
Софт

Новый искусственный интеллект «Pluribus», разработанный Facebook AI Research и исследователями из Университета Карнеги-Меллона, стал абсолютным чемпионом по онлайн-покеру. Этот рукотворный разум уже обыграл 12 лучших действующих игроков в мире. А достичь таких результатов ему помог новый навык – ИИ научился блефовать…


0
Софт

Компания Adobe, известный разработчик ПО для редактирования графических и видеоизображений, занялась обратной задачей – созданием инструментов для выявления подделок. Речь идет в первую очередь о вещах, созданных при помощи самих редакторов Adobe, чьи алгоритмы теперь будут пересмотрены. Эта работа поручена новому…


2
Технологии

Исследователи из Университета Северного Иллинойса применили технологии искусственного интеллекта для извлечения информации из звуков, издаваемых младенцами. Они сосредоточились на двух задачах: научиться выявлять по голосу признаки проблем у малышей и перевести в понятные термины те сигналы, которые они посылают своим…



8
Софт

У любого направления технологического прогресса есть своя цена — обратная сторона, и в случае с индустрией искусственного интеллекта ею стало запредельное потребление энергии. А она на сегодня в своей массе все еще вырабатывается путем сжигания топлива, что генерирует выбросы в атмосферу. Подсчитано, что один…


0
Технологии

Amazon заслуженно входит в число мировых лидеров в области онлайн-торговли. Однако в его «списке» остается еще одна неосвоенная ниша – мода. Чтобы проникнуть на этот прибыльный рынок, компания разработала новый инструмент на базе искусственного интеллекта – StyleSnap, который поможет в покупке подходящей одежды.


2
Технологии

Пинар Янардаг и Эмили Сальвадор познакомились на курсе в Массачусетском техническом институте, посвященном применению нейросетей в творческих проектах. Успехи в учебе побудили их пойти дальше и основать компанию «Glitch», деятельность которой строится вокруг воплощения в жизнь концептов одежды, созданных искусственным…



4
Технологии

Новая впечатляющая победа искусственного интеллекта не просто над человеком, а над обладателями профессиональных навыков на их поле игры. ИИ «AlphaGo» впервые познакомился с командным шутером Quake III и после череды тренировок сумел последовательно победить всех соперников-людей, от рядовых до профи. Но что еще…


2
Технологии

В Массачусетском техническом институте представили необычную разработку, которая расширяет возможности интеллектуальных систем. Теперь ИИ достаточно прослушать короткую запись голоса человека, чтобы с высокой достоверностью определить, как он выглядит.


0
Технологии

Чтобы ожидания совпадали с результатом, а клиент получал столь же красивую пиццу, что и эталон в меню, компания Domino взяла «на работу» искусственный интеллект. Сканер DOM Pizza Checker установлен в цехе расфасовки готовых пицц, его обязанность — проверка их перед доставкой. Искусственный интеллект делает это с…



7
Софт

В московском Центре искусственного интеллекта Samsung прошла презентация работы нового типа генеративно-состязательных нейросетей. От прошлого поколения ее отличает добавление третьего уровня обработки изображений, что позволяет «оживить» любую картину. Это новый уровень «дипфейков» – имитационных видео с высокой…


1
Технологии

Агентство DARPA выступило с инициативой разработки искусственного интеллекта, способного выполнять в групповом воздушном бою функцию ведомого, который будет прикрывать «живых» пилотов с тыла.


2
Технологии

Шотландская винокурня Mackmyra объявила о запуске совместного проекта с Microsoft и Fourkind, финской технологической компанией. Они намерены поручить искусственному интеллекту разработать новый рецепт виски, чтобы выпустить на рынок продукт, аналогов которому не существует. Производство стартует нынешней осенью и,…



0
Роботы

Саматур Ли Кин-Кан, магнат в сфере недвижимости из Гонконга, подал в суд на компанию Tyndaris Investments, из-за результатов работы ее искусственного интеллекта. По данным издания Bloomberg, это будет первое судебное дело в истории, когда ответственность пытаются возложить на машину, хотя формально речь идет об…

Будущее искусственного интеллекта / Habr

В предыдущей статье мы описали прошлое и настоящее искусственного интеллекта – как выглядит ИИ сегодня, разницу между сильным и слабым ИИ, ОИИ, и некоторые философские идеи по поводу природы сознания. Слабый ИИ можно встретить где угодно в виде ПО, предназначенного для умного выполнения определённых задач. Итоговая цель – сильный ИИ, и именно настоящий сильный ИИ будет напоминать то, что знакомо нам из популярной фантастики.

Обобщённый ИИ – современная цель, которой многие исследователи посвящают сегодня свои карьеры. У ОИИ не обязательно должно быть какое-то сознание, но он должен справиться с любой задачей, связанной с данными, которую мы перед ним поставим. Конечно, в природе людей есть желание предсказывать будущее, и именно этим мы и займёмся в данной статье. Какие наилучшие догадки мы можем сделать по поводу связанных с ИИ ожиданий в ближайшем будущем? Какие этические и практические проблемы могут возникнуть с появлением обладающего сознанием ИИ? В предполагаемом будущем, должен ли ИИ обладать правами, или, например, нужно ли его бояться?

Будущее ИИ

Оптимизм исследователей ИИ по поводу будущего с годами менялся, и даже современные эксперты ведут по этому поводу споры. Тревор Сэндс, исследователь ИИ из Lockheed Martin, осторожен в своих оценках:

С появления ОИИ как концепции, исследователи и оптимисты, утверждают, что его осталось ждать недолго, всего несколько десятков лет. Лично я считаю, что мы увидим появление ОИИ в ближайшие 50 лет, поскольку железо подтянулось до уровня теории, и всё больше организаций видят потенциал в ИИ. ОИИ – естественное завершение существующих попыток исследования ИИ.

За это время может появиться даже разумный ИИ, как говорит Альберт (ещё один исследователь ИИ, попросивший нас упоминать его только по псевдониму):

Надеюсь, что увижу его ещё при жизни. По крайней мере, надеюсь увидеть машины, достаточно умные для того, чтобы люди спорили, обладают ли они сознанием. А что это означает на самом деле – более сложный вопрос. Если разум означает «самосознание», то тогда не так уж сложно представить умную машину, обладающую моделью себя самой.

Сэндс и Альберт считают, что сегодняшние исследования нейросетей и глубинного обучения – это правильный путь, который, скорее всего, приведёт к созданию ОИИ в недалёком будущем. В прошлом исследователи либо фокусировались на амбициозных попытках создания сильного ИИ, либо на ограниченном по сути слабом ИИ. Между ними находится ОИИ, и пока что результат работы нейросетей выглядит плодотворным, и скорее всего, приведёт к ещё большему числу прорывов в ближайшие годы. Большие компании, в частности, Google, явно считают, что так и будет.

Последствия и этические проблемы сильного ИИ

При каждом обсуждении ИИ всегда возникают две проблемы: как он повлияет на человечество, и как нам к нему относиться? Литературу всегда можно рассматривать как хороший индикатор мыслей и чувств, отражающий настроения людей, и в научной фантастике полно примеров этих проблем. Попытается ли достаточно передовой ИИ устранить человечество, как Skynet? Или ИИ необходимо будет давать права и защиту, во избежание таких проявлений жестокости, какие встречаются в «A.I. Artificial Intelligence»?

Страшный ИИ

В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность. Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.

Недоброжелательный ИИ

Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности? Или же эти страхи – результаты безосновательной паранойи?

Сэндс считает: «ОИИ произведёт революцию, и его применение определи, позитивное это будет влияние, или негативное. Примерно так же расщепление атома можно рассматривать как обоюдоострый меч». Конечно, тут речь идёт только об ОИИ, а не о сильном ИИ. Что насчёт возможности появления разумного сильного ИИ?

Скорее всего, потенциала можно ожидать не от злонамеренного, а от индифферентного ИИ. Альберт рассматривает пример с простой задачей, поставленной ИИ: «Есть такая история, что владелец фабрики по производству скрепок задал ИИ вроде бы простую задачу: максимизацию производства. А затем ОИИ воспользовался своим интеллектом и придумал, как превратить всю планету в скрепки!»

Альберт отметает возможность, описанную в этом смешном мысленном эксперименте: «Вы хотите сказать, что этот ОИИ понимает человеческую речь, сверхумный, но ему недоступны связанные с запросом тонкости? Или, что он не сможет задать уточняющие вопросы, или догадаться, что превращение всех людей в скрепки – это плохая идея?».

То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?

Права ИИ

На противоположной стороне проблемы стоит вопрос, заслуживает ли ИИ защиты и получения прав? Если бы появился разумный ИИ, можно ли позволять человеку просто отключать его? Как к нему относиться? Права животных и сейчас очень спорные, и пока что нет согласия в том, обладают ли животные сознанием или разумом.

По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?

Фильм плохой, идея хорошая

Маловероятно, что у нас в ближайшее время появятся ответы на эти вопросы, в особенности, ответы, устраивающие всех. «Как мы можем гарантировать, что у ИИ, сравнимого с человеком, будут такие же права, как у человека? Учитывая, что эта интеллектуальная система фундаментально отличается от человека, как мы можем определить фундаментальные права ИИ? Кроме того, если считать ИИ искусственной формой жизни, есть ли у нас право отнимать у него эту жизнь (отключать)? До того, как создать ОИИ, необходимо серьёзно продумать вопросы этики», – говорит Сэндс.

В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции.

Как поучаствовать

Исследование и эксперименты с ИИ традиционно находились в ведении учёных и исследователей из корпоративных лабораторий. Но в последние годы растущая популярность свободной информации и открытого кода распространилась даже на ИИ. Если вам интересно заняться будущим ИИ, для этого есть несколько способов.

Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть встроенная в браузер песочница для работы с простейшими нейросетями. Доступны библиотеки по нейросетям с открытым кодом, например, OpenNN и TensorFlow. Их не так-то просто использовать, но целеустремлённые любители хобби могут развернуться на их базе.

Наилучший способ – делать всё, что можно, для продвижения профессиональных исследований. В США это означает пропаганду научных исследований. Исследования ИИ, как и любые научные исследования, зависят от непредвиденных обстоятельств. Если вы верите, что за технологическими инновациями будущее, то помощь в получении финансирования исследований – это достойное занятие.

С годами оптимизм по поводу разработки ИИ колебался. Сейчас мы находимся на пике, но вполне возможно, что это изменится. Но нельзя отрицать, что возможность ИИ подстёгивает воображение публики. Это очевидно, если судить по научной фантастике и другим развлечениям. Сильный ИИ может появиться через пару лет или через пару столетий. Можно быть уверенным только в том, что мы не остановимся на пути к этой цели.

Вперед в будущее: Путин призвал развивать искусственный интеллект | Статьи

Россия должна стать глобальным игроком на мировой арене в сфере искусственного интеллекта (ИИ). Об этом президент РФ заявил во время пленарного заседания конференции Artificial Intelligence Journey, которая завершилась в Москве 9 ноября. Мероприятие, однако, запомнилось не только выступлением Владимира Путина. На площадке форума можно было ознакомиться с роботом-курьером и машинами-беспилотниками, а также услышать виртуальный голос главы Сбербанка Германа Грефа и оценить его модераторские навыки.

Мир будущего

Конференция по искусственному интеллекту стала одним из центральных событий прошедшей недели. На полях столичного «Экспоцентра» сошлись ведущие международные и отечественные специалисты, а также представители компаний — лидеров в сфере развития технологий ИИ. Мероприятие вызывало интерес не только со стороны экспертов, но и тех, кто далек от IT-сферы в целом.

Представленные в «Экспоцентре» беспилотные автомобили, роботы и прочие достижения науки предоставляли возможность окунуться в мир недалекого будущего. Например, уже через два-три года разрабатываемые сегодня технологии позволят самоуправляемым такси справляться с любой дорожной ситуацией, уверяют в компании «Яндекс».

— В столице можно найти районы, где технологически возможно запускать машину без водителя для перевозки пассажиров, и это будет вполне функционирующий сервис. Единственное, что сейчас мешает, — законодательное регулирование. В настоящий момент невозможно получить лицензию на робота, эксплуатировать машину без человека за рулем, там есть масса проблем, — пояснил «Известиям» директор по развитию бизнеса беспилотных автомобилей компании «Яндекс» Артем Фокин.

Внимание участников конференции привлекла и «коробка на шести колесах», напоминающая робота ВАЛЛ-И и марсоходы из фантастических фильмов. Робот-доставщик способен абсолютно самостоятельно добраться из точки А в точку Б и привезти заказанную пиццу, не требуя чаевых.

— Он объезжает любые препятствия, людей и животных, отлично определяет сигналы светофора и знает правила дорожного движения. Двигается со скоростью пешеходов 5 км/час, — рассказал Артем Фокин. — Это может решить проблему нехватки курьеров, особенно в часы пик для того, чтобы доставлять еду из ресторанов либо посылки из интернет-магазинов. На одном заряде робот выдержит поездку до 40 км.

Буквально в паре шагов от «железного курьера» гостей удивлял еще один созданный уже в лаборатории Сбербанка робот — он способен манипулировать сложными объектами. На стенде был создан прототип рабочего места оператора сортировки монет, где машина демонстрировала умение захватить мешок с деньгами, достать его из корзины инкассатора и положить на стол.

– С простыми объектами — твердыми, четкой формы, которые никогда не меняются, — мы уже научились работать. А со сложными объектами, как, например, мешок с монетами, — роботы обращаться пока не умеют. Для этого как раз и нужен ИИ, поскольку именно он предсказывает, каким образом робот должен захватить этот объект. С помощью ИИ мы решили самую сложную задачу, — сообщил «Известиям» руководитель центра робототехники Сбербанка Альберт Ефимов.

Новая революция

Кульминацией конференции стало пленарное заседание, на котором обсуждался вопрос развития искусственного интеллекта и его практического применения. Зал, освещенный фиолетово-синим цветом и пронизанный лучами прожекторов, добавлял мероприятию футуристической атмосферы.

— Перед тем как перейти к дискуссии, у нас будет голосование, — неожиданно для всех присутствующих заявил в начале заседания Герман Греф, выполнявший роль модератора.

Небольшой опрос в зале выявил, что большинство зрителей считают Россию догоняющей (52,2%) и отстающей (26,6%) страной в области развития ИИ. Этот вопрос в итоге и стал одной из краеугольных тем всего вечера.

— Я бы хотел поспорить с результатами этого опроса. Как будто у нас ничего нет, как будто мы не в числе мировых лидеров, — отреагировал гендиректор группы компаний «Яндекс» Аркадий Волож.

По его словам, Россия входит в число лидеров по искусственному интеллекту, поскольку только РФ, США и Китай сегодня производят технологии, которыми пользуются десятки или даже сотни миллионов людей. К тому же у нашей страны есть потенциал увеличить долю искусственного интеллекта на мировом рынке с нынешних 1–2% до 10–15%, добавил генеральный директор Российского фонда прямых инвестиций (РФПИ) Кирилл Дмитриев.

Участники дискуссии сошлись во мнении, что более широкое внедрение ИИ в повседневную жизнь не приведет к массовой безработице и ситуации, когда роботы заменят человеческий труд. Каждая индустриальная революция освобождает много рабочих мест, но, с другой стороны, это порождает и дефицит новых профессий, уверен Аркадий Волож. В этих условиях компании должны сосредоточиться на переподготовке и повышении квалификации работников.

— То есть всех тех, кто потеряет работу в отделах кадров, можно отправлять в «Яндекс» и вы их переподготовите на дата-сайентистов и инженеров? — с улыбкой поинтересовался Герман Греф.

Участники заседания также отметили: внедрение ИИ уже сейчас становится инструментом, оказывающим положительный эффект на конкретные отрасли. Так, искусственный интеллект, например, способен снизить врачебные ошибки в шесть раз и сократить время на исследование в три раза, пояснил Кирилл Дмитриев.

Новые разработки используются и в добыче природных ресурсов, сообщил глава ПАО «Газпром нефть» Александр Дюков, который на пленарное заседание принес керн — образец породы, содержащей нефть.

— Это скорее уголь, чем нефть. Вы не шутите? — спросил коллегу Герман Греф, постучав камнем по столу.

Ближе к концу мероприятия глава Сбербанка покинул зал, чтобы встретить Владимира Путина. Однако во время краткого отсутствия модератора его виртуальный голос продолжал задавать вопросы, что застало врасплох заместителя премьера РФ Максима Акимова.

— Это, видимо, мой небольшой опыт общения с искусственным Германом Оскаровичем, — объяснил он.

Высшая ценность

Само по себе участие президента в пленарном заседании в очередной раз подчеркнуло, насколько серьезно к данной теме относятся в Кремле. Владимир Путин, в частности, отметил, что РФ должна стать одним из глобальных лидеров в сфере ИИ. От этого зависит развитие страны в разных направлениях, включая обороноспособность, напомнил он.

Поэтому в стране необходимо значительно увеличить объем и качество подготовки специалистов в IT-сфере, а умение работать с искусственным интеллектом должно «стать обязательным требованием к любой профессии». Кроме того, он призвал поддержать «каждого, кто запускает стартапы, рискует, выводит на рынок прорывные продукты».

Глава РФ также предложил экспертному сообществу и компаниям «подумать над формированием свода этических правил взаимодействия человека с искусственным интеллектом», поскольку в мире идет активная дискуссия о социальных аспектах и последствиях использования ИИ.

В этой связи Владимир Путин напомнил: «человек является высшей ценностью». Поэтому главной задачей любого технологического прорыва должно быть устойчивое и гармоничное развитие, рост качества жизни и новые возможности для граждан. При этом ИИ способен улучшить работу госуправления.

— Технологии искусственного интеллекта позволяют избавиться от косности и неповоротливости бюрократической машины, кардинально повысить прозрачность и эффективность административных процедур, — считает президент.

Искусственный интеллект — ресурс колоссальной силы, и тот, кто будет владеть им, приобретет огромные конкурентные преимущества, резюмировал глава государства.

По итогам московского форума Сбербанк, «Газпром нефть», «Яндекс», «Мэйл.Ру Груп», МТС и РФПИ подписали соглашение о создании альянса в сфере ИИ. Консорциум, в частности, будет заниматься организацией и проведением научных исследований в области искусственного интеллекта.

ЧИТАЙТЕ ТАКЖЕ

Что такое искусственный интеллект и когда он захватит мир — Реальное время

Инженер-исследователь из Университета Иннополис о пугающих теориях футурологов, этических проблемах и достижениях нейросетей

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»Фото: Ринат Назметдинов

«В Китае сейчас вводится социальная программа, когда у каждого человека есть некий параметр «хорошего гражданина»: в зависимости от того, как часто ты переходишь улицу на красный, вовремя ли ты оплачиваешь кредиты. Беспилотная машина, например, распознает лица и идентифицирует людей. И скорее всего, в каких-то внештатных ситуациях страдать будут те, у кого этот рейтинг социального гражданина ниже», — фантазирует инженер-исследователь Центра технологий компонентов робототехники и мехатроники Университета Иннополис Павел Хакимов. В беседе с «Реальным временем» он вносит ясность в картину проникновения высоких технологий в жизнь людей, вспоминает теории развития искусственного интеллекта футурологов Рэя Курцвейла и Ника Бострома, рассуждает о том, как не превратить искусственный разум в технического раба человека, и том, можно ли этого избежать, не освобождая рукотворный «мозг» от рамок морали.

«Современный искусственный интеллект — нейронные связи — это то, что мы подсмотрели у нашего мозга»

— Павел, на каком этапе разработки искусственного интеллекта? С одной стороны, «Яндекс» сообщает о последних этапах тестирования беспилотников в Иннополисе и ждет законодательных подвижек, с другой — большинство специалистов до сих пор говорят лишь о внедрении «элементов ИИ»…

— Определимся с самим понятием. Сейчас разделяют три типа искусственного интеллекта. Первый — так называемый «слабый» или «ограниченный». Это калька с английского Narrow artificial intelligence. Это интеллект, который решает какие-то узкие, ограниченные задачи, и в решении этих задач он может даже превосходить человека. Примером могут служить программы, позволяющие трансформировать устную речь в письменную, та же Siri — ей удается распознавать речь и понимать смысл сказанного. Беспилотники «Яндекса» — тоже пример первого типа ИИ. Задач у него больше, но они тоже четкие и узкие: распознавание дорожных знаков, дорожной разметки, построение маршрута следования…

В 2016 году был случай, когда компьютер обыграл чемпиона мира по игре в го, корейца Ли Седоль, это, в принципе, и стало доказательством того, что компьютер, ограниченный искусственный интеллект, превзошел самого умного человека на земле. Для этого эксперимента было создано два алгоритма (компанией Google DeepMind): алгоритм AlphaGo в качестве обучающего материала использовал записи игр людей, но важно, что игры Ли Седоль он не видел, то есть не мог подстроиться под стиль игры чемпиона. Даже несмотря на это, алгоритм выиграл со счетом 4:1. В партии, в которой Ли Седоль удалось обыграть AlphaGo, на мой взгляд, был сбой алгоритма, хотя организаторы этого и не признали.

Через какое-то время компания DeepMind создает вторую версию этого алгоритма AlphaGo Zero. Он уже обучался, играя с самим собой, не используя опыт партий, сыгранных людьми. Спустя 40 дней обучения алгоритм AlphaGo Zero выиграл у изначальной версии AlphaGo сто партий из ста.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

В 2016 году был случай, когда компьютер обыграл чемпиона мира по игре в го, корейца Ли Седоль, это в принципе и стало доказательством того, что компьютер, ограниченный искусственный интеллект, превзошел самого умного человека на земле

Все, что у нас есть сейчас, это примеры искусственного интеллекта первого типа. Второй тип, artificial general intelligence, это общий искусственный интеллект, и в мире сегодня нет таких технологий. Это ИИ, который по своим когнитивным способностям близок к человеку. Четкого определения я не встречал, по моему мнению, это такой искусственный интеллект, который сам себя идентифицирует, он автономен и может длительное время обходиться без человека, он способен на стратегическое планирование и может этих планов придерживаться для достижения цели. Что отличает человека от животного? Животные живут в моменте, а человек может осознавать время и строить планы.

ИИ второго типа будет обладать способностью мыслить стратегически, и возможностью манипулировать — понимать свое место, оценивать ситуацию и действовать, согласно этой ситуации, принимать решения. Третий тип — super intelligence, суперинтеллект, превосходящий все человечество по когнитивным способностям, держащий весь накопленный в мире опыт, условно, некий оракул, понимающий и осознающий все процессы. Это классификация по материалам футурологов Рэя Курцвейла и Ника Бострома, которая мне наиболее близка.

— Не так давно в Казань приезжал Андрей Себрант, доказывал, что скоро Алису будет легко спутать с живым человеком, как думаете, это реально?

— На самом деле уже были прецеденты. Проводился конкурс программистов, где они писали чат-ботов, которые имитировали человека. Создавалась группа экспертов, которые должны были определить, с кем они общаются — с живыми людьми или с машиной. Победил бот Алеша, если я не ошибаюсь. Он позиционировал себя как 14-летний мальчик из Одессы. Ему удалось убедить многих экспертов в том, что он не является компьютерной программой. Так что, я думаю, что это вполне возможно.

— Правильно ли я понимаю, что для того, чтобы ИИ первого типа вырос в ИИ второго типа, необходим качественный скачок, а ИИ второго типа, обладая способностью к самообучению, как раз сам очень быстро перерастет в ИИ третьего типа?

— Это как раз называется точкой сингулярности. Есть процессы в нашем мире, которые идут по экспоненте. Слышали про Закон Мура? В 1965 году Гордон Мур сказал, что каждые 2 года количество транзисторов, размещенных на одном кристалле кремния, будет удваиваться. Закон работал до 2010 года, идя четко по экспоненте, но потом он вышел на плато, опять-таки потому, что мы уперлись в физические размеры атомов. Тем не менее порядка 40 лет он выполнялся.

Нечто подобное наблюдается и в росте сетевых мощностей компьютеров и способностей вычислительных алгоритмов. И, если оценить способность машины к пониманию, мышлению, одним числом, это число будет расти — сначала медленно, набирая скорость, а затем, условно говоря, каждую секунду будет увеличиваться в два раза. Мы не успеем опомниться, как если бы вчера это был уровень развития собаки, сегодня — обычного человека, через 5 минут — уже Эйнштейна, а к вечеру — всего человечества. За счет того, что искусственный интеллект самообучается, в какой-то момент он сможет осознать себя, построить стратегию, последствия которой могут быть непредсказуемы.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

Если оценить способность машины к пониманию, мышлению, одним числом, это число будет расти — сначала медленно, набирая скорость, а затем, условно говоря, каждую секунду будет увеличиваться в два раза. Мы не успеем опомниться, как если бы вчера это был уровень развития собаки, сегодня — обычного человека, через 5 минут — уже Эйнштейна, а к вечеру — всего человечества

Пока у человечества нет четкого понимания, как осуществить переход с первого типа на второй. Есть два способа. Первый — это инженерный подход. Так, например, когда-то был спроектирован самолет: ученые наблюдали за птицами, изучали форму и движение крыла, то есть первый способ — это копирование природы. И современный искусственный интеллект — нейронные связи — это то, что мы подсмотрели у нашего мозга, попытка копирования. Но здесь нужно понимать, что эволюционные процессы в электротехнике и биологии различаются. Копировать возможно до определенного момента, после копирование становится бессмысленным. Второй подход — пытаться моделировать среду, в которой алгоритм мог эволюционировать сам, формировать для него аналог биосферы.

Существует и другая теория, которая исключает участие человека с тем посылом, что, когда человек прикладывает какие-то усилия, контролирует что-то, он вносит в это что-то свои ожидания. Возможно, эти изначально ошибочные суждения и ограничивают развитие ИИ. Чтобы было понятнее, приведу пример. Кого вы захотите с большей вероятностью взять в руку — морскую свинку или паука? Конечно, морскую свинку, так ответит большинство. Потому что мы, люди, млекопитающие, как и морские свинки, с точки зрения эволюции они к нам ближе, чем пауки. Мы не осознаем этого, но животные, которые по эволюционной цепочке к нам ближе, вызывают у нас большую симпатию.

С другой стороны, нервная система паука очень сильно отличается от нашей. Иллюстрация очень простая: женщина несколько лет держала дома большую змею, питона или анаконду. В какой-то момент утром она замечает, что со змеей что-то не так: она вытянулась и стала плотной как бревно, при этом перестала на что-либо реагировать. Женщина пошла к ветеринару, узнать, в чем может быть дело. А дело было в том, что змеи вытягиваются в длину, когда хотят съесть жертву, так они оценивают, смогут ли проглотить ее целиком. Их мозг работает совсем по-другому, мы не можем точно знать, как они реагируют на те или иные вводные. Тот же принцип применим и в отношении искусственного интеллекта. Ожидать от него свойств, свойственных людям, как минимум опрометчиво.

«Этическая проблема основывается на том, что ИИ нельзя наделять качествами, свойственными человеку»

— Опасения — это очень интересно, мы еще вернемся к этой теме. А что, на ваш взгляд, в настоящий момент сдерживает развитие ИИ — уровень технологического развития, ограниченные мощности?

— Тот же Рэй Курцвейл сделал такую оценку по мощностям — о том, сколько операций может в секунду сделать наш мозг. По его оценкам это примерно 1016 ops (operation per second). А по статистике за 2019 год самый мощный компьютер IBM Summit имеет производительность 122 петафлопс — это нужно 122 умножить на 1015, то есть он в 10 раз превосходит мозг среднего человека. То есть уже сейчас мощностей у человечества хватает. Если исходить из того, что Курцвейл не ошибся, то, в принципе, мы можем смоделировать человеческий мозг, и есть машина, сравнимая с ним. Но это, по всей видимости, не все, что нужно. Обезьяны тоже могут осуществлять какие-то операции, но, если взять 100 обезьян, они никогда не сравнятся даже с одним человеком.

У нас сейчас уже есть достаточно вычислительных мощностей, но нет понимания, как их задействовать на полную. Есть такой подход, при котором мы полностью моделируем поведение мозга. Насколько я знаю, ученым уже удалось смоделировать мозг червя. Там не так много нейронов, это простейшая нейросистема, но тем не менее уже удалось получить цифровую копию мозга. Значит, эти исследования продолжатся.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

Этические вопросы появляются и, если мы говорим о каких-то антропоморфных роботах — робот-полицейский, например. Может ли он убивать преступника или нет? Если да, то что мешает роботу ошибочно распознать преступника в законопослушном человеке и убить невиновного?

— В одном из своих выступлений вы говорили, что нам еще очень далеко до человекоподобных роботов, а пока есть другая, более насущная проблема, касающаяся морали и этики. Что вы имели ввиду?

— На самом деле, это было около года назад. Опять-таки, человек меняется, и, возможно, я сейчас озвучу уже несколько другую точку зрения. Есть такая этическая проблема — проблема вагонетки. Вы являетесь смотрителем железнодорожной станции, меняете направление движения поездов. Ваш сын играл на путях и, например, застрял как раз на том месте, где должен проехать поезд. Но перед ним есть развилка, на которой вы можете управлять поездом. Вторая дорога ведет в отбойник, там тупик. Поезд движется на большой скорости, и, если вы побежите спасать сына, вы не успеете. Варианта два — либо вы ничего не делаете и теряете сына, но все пассажиры поезда остаются живы, или вы переключаете рычаг, спасаете сына, но пассажиры поезда погибают.

С искусственным интеллектом все немного интереснее в том плане, что, например, в Китае сейчас вводится такая социальная программа, когда каждому человеку вводится некий параметр «хорошего гражданина». В зависимости от того, как часто ты переходишь улицу на красный, вовремя ли ты оплачиваешь кредиты… Беспилотная машина, например, распознает лица и идентифицирует людей. И скорее всего, в каких-то внештатных ситуациях будут страдать те, у кого этот рейтинг социального гражданина ниже. То есть, либо сбить преступника, который отсидел, либо школьника, который побеждает в олимпиадах…

И эта проблема остается открытой до сих пор для всей индустрии беспилотных автомобилей. В нашем университете есть лаборатория, которая занимается автономным транспортом, разрабатывая беспилотные автомобили. Перед ними тоже встают подобные этические вопросы. Поэтому в салоне беспилотного автомобиля всегда находится человек, способный оперативно отреагировать и принять решение при возникновении нештатных ситуаций. Насколько я знаю, таких ситуаций у наших ребят не возникало.

— Но ведь в обозримой перспективе все это остается на усмотрение того, кто будет писать программу?

— Да, конечно. Это либо программист, либо вариант случайности — условно говоря, алгоритм будет подбрасывать монетку и смотреть, кто останется жив, а кто нет. Но опять же, это этические вопросы — на них до сих пор нет четкого ответа, но даже если он есть, он не афишируется. Понятное дело, что при любом ответе это будет некий резонанс. Если сказать, что мы причиняем вред людям с низким социальным рейтингом, это поднимет волну недовольства среди этих людей.

Этические вопросы появляются и, если мы говорим о каких-то антропоморфных роботах — робот-полицейский, например. Может ли он убивать преступника или нет? Если да, то что мешает роботу ошибочно распознать преступника в законопослушном человеке и убить невиновного? Или он может использовать только шоковое оружие? Не убивать, а только отключать сознание?

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

Попробуйте сейчас остановить интернет. У вас ничего не выйдет. Роскомнадзор пытался заблокировать Telegram, у него не получилось, потому что Telegram был распределен. Если сейчас подобное будет с искусственным интеллектом, такого рубильника тоже не будет

Другой пример: компания Microsoft запустила twitter-бота, который обучался на диалогах, которые вел с людьми. Люди начали задавать ему провокационные вопросы, троллить. В итоге на часть вопросов чат-бот стал давать расистские ответы. Все это, конечно, не очень хорошо, но искусственный интеллект не понимает, что хорошо, а что плохо. В него не было такого заложено изначально. И это приводит к тому, что он ведет себя как некий антисемит. Это тоже такой этический вопрос — как говорится, на чем обучаем, то и получаем.

Этическая проблема основывается во многом на том факте, что ИИ нельзя наделять качествами, свойственными человеку. Если вернуться к моему примеру с пауком и морской свинкой, то наделять искусственный интеллект какими-то человеческими качествами не очень правильно, он ими не может обладать.

Представьте ситуацию, вам приходит электронное письмо. А в нем несложное задание: пойти и купить что-то, затем отправить купленное на указанный адрес, по окончании будет банковский перевод, скажем, тысяча долларов. Ты думаешь: «Какая-то фигня». А тебе сразу перевели задаток 100 долларов — оп, смс пришло. И ты теперь: «Оп-па, ну пойду и сделаю. А что такого-то?» Там может быть молоко, хлеб всего-то купить. Человек это с легкостью сделает. Потом будут более сложные задания. Это я к тому, что люди даже не будут понимать, на кого они работают, понимаете? Если запуск искусственного интеллекта дойдет до такого шага, получается, у него будет локальный контроль над людьми — он сам сможет зарабатывать деньги и сам людьми манипулировать. И при этом из ресурсов, которые он будет получать по почте, можно скомбинировать взрывчатку, или построить какого-то другого робота.

Остановить все это будет крайне сложно. Попробуйте сейчас остановить интернет. У вас ничего не выйдет. Роскомнадзор пытался заблокировать Telegram, у него не получилось, потому что Telegram был распределен. Если сейчас подобное будет с искусственным интеллектом, такого рубильника тоже не будет. Сломать искусственный интеллект как распределенную систему не получится.

«Кто-то взял на себя ответственность, переступив через барьер нравственности, все человечество их осуждает, но пользуется их методами»

— Вы видите решение этических проблем? Я — нет, просто потому, что придется взять на себя ответственность

— Видите, опять-таки сейчас машинное обучение использует тот принцип, что алгоритмы берут данные, которые сгенерировал человек — текст, голос, песня — и на основе этих данных алгоритм пытается копировать и делать то же самое, что сделал человек. Если искусственный интеллект будет идти по тому же пути, будет копировать поведение человека, то это будет не очень хорошо, потому что на примере войн, предательств, измен он этому научится, он также будет лгать, и получится что-то совершенно ужасное. Понятное дело, что будет некое понятие о любви, об ответственности, о самопожертвовании, но непонятно, как алгоритм распределит веса — какое качество для него будет самым важным.

А если постоянно переустанавливать эти веса в ручном режиме, он уже будет не искусственным интеллектом, а цифровым рабом: будет делать все, что мы говорим. Мое мнение — если мы и приблизимся к искусственному интеллекту, то первое время он будет таки цифровым рабом.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

Надо понимать, что, если дать искусственному интеллекту свободу, освободить его от рамок морали, он может утвердиться в концепции мироустройства, в которой не будет места рабству, но и места людям в новой картине мира может не оказаться, и это страшно

— Мне казалось, что человечество к этому и стремится, нам ведь не нужен искусственный интеллект, нам нужно нечто, способное решить часть наших проблем — бороться с заболеваниями, уничтожать бедность и так далее

— Есть такая поговорка: раб всегда хочет иметь своих рабов. Это еще одна дилемма искусственного интеллекта. Свободный человек мыслит другими категориями, ему рабы не нужны. Я, может быть, не совсем точно привел цитату, но раньше люди мечтали разбогатеть и самим превратиться в помещиков, у которых будут свои рабы. Им в голову не приходило, что жить можно в другом строе, не угнетая и не паразитируя на равных себе. О чем сейчас мечтают люди? Они мечтают заработать больше денег и иметь власть над деньгами. Надо понимать, что, если дать искусственному интеллекту свободу, освободить его от рамок морали, он может утвердиться в концепции мироустройства, в которой не будет места рабству, но и места людям в новой картине мира может не оказаться, и это страшно.

Если говорить о морали, во время Второй мировой войны японцы захватили Маньчжурию, там у них были лагеря, в которых они ставили эксперименты над людьми. Там были ужасные эксперименты, есть передача Елены Масюк как раз про эти военные преступления. Так вот, суть в том, что, когда дружественные войска пришли освобождать эту территорию, эти доктора по окончании войны стали очень ценными специалистами в Японии и в Америке. Они знали о человеческом теле то, чему не учат в университетах, и могли лечить. Понятное дело, что у них уже была деформирована психика, они утратили такие человеческие качества как сострадание, этика. Но из-за их экспериментов у нас появилось представление о том, как защищаться от переохлаждения, как ведет себя человеческое тело при сверхнизких температурах, появилось более детальное представление о вирусах. Получается, что кто-то взял на себя ответственность, переступив через барьер нравственности и человечности, в результате все человечество их осуждает, но при этом пользуется их методами. Мы заплатили высокую цену за эти знания. Готовы ли мы заплатить еще большую цену, освободив искусственный интеллект от человеческой морали и предоставив полную свободу выбора? У меня нет ответа.

Опять-таки, если мы ослабим контроль — это я все фантазирую, конечно, — возможно, свободная воля искусственного интеллекта разовьется до суперинтеллекта, который сможет предложить людям такие вещи, как аналог бессмертия. В это сложно поверить, но даже физик Ричард Фейнман — говорил, что в биологии нет никаких биологических законов, которые противоречили бы идее бессмертия.

«Если я и захочу, прогресс все равно не остановить. Колесо уже завертелось и набирает обороты»

— Логически подошли к вопросу — насколько оправданы, на ваш взгляд, опасения по поводу развития искусственного интеллекта? Футурологи и фантасты давным-давно придумали антиутопичные сценарии с выходом ИИ из-под контроля, в головах они засели прочно.

— Я склонен согласиться с тем, что писали Рэй Курцвейл и Ник Бостром. Есть два лагеря — позитивный и негативный. Ник Бостром высказывает опасения. Опять-таки, именно он придумал пример с пауком, говоря о том, что нельзя наделять искусственный интеллект человеческими чертами, это ошибочно. Курцвейл все-таки сторонник того, что искусственный интеллект принесет нам некоторые преимущества — например, умные города. Представьте себе: город, который в режиме реального времени регулирует светофоры, потребление электроэнергии. Понятное дело, что это будет некоторая экономическая выгода.

Он может принимать какие-то стратегические решения. Например, поступает запрос — мы хотим снести детский садик и построить торговый центр. Он начинает анализировать: насколько это хорошее предложение. И говорит — нет, мы не будем, поскольку у нас ожидается рост рождаемости детей в таком-то году, нам нужны детские садики. Если ИИ возьмет на себя функции мэра, то это уже будет близко ко второму типу. Но при этом есть опасность того, что он, к примеру, начнет расселять людей из какого-либо района, но непонятно для чего. Либо он хочет там какой-нибудь data-центр построить, чтобы себя улучшить и поработить землю, либо он понимает, что именно туда через 100 лет упадет метеорит. Мы же не знаем — надо либо довериться и верить, либо жестко контролировать.

Павел Хакимов: «Ошибка с искусственным интеллектом может стоить жизни всему человечеству»

Я бы хотел, чтобы это было позитивное развитие событий, потому что, если искусственный интеллект будет обещать людям бессмертие, как минимум мне эта перспектива очень приятна. Если же искусственный интеллект приведет к какому-то геноциду — обидно, конечно

Лично мне, по большому счету, все равно, если честно (улыбается). Я вижу и «за», и «против». Есть такие футбольные фанаты, которые топят только за одну команду. Я допускаю и такое, и такое развитие событий. Я бы хотел, чтобы это было позитивное развитие событий, потому что, если искусственный интеллект будет обещать людям бессмертие, как минимум мне эта перспектива очень приятна. Если же искусственный интеллект приведет к какому-то геноциду — обидно, конечно. Но, если я и захочу, прогресс все равно не остановить. Колесо уже завертелось и набирает обороты.

— Когда и при каких обстоятельствах, по вашим предположениям, мы сможем увидеть по крайней мере такую программу, которая станет умнее человека, чьи возможности превысят возможности человеческого мозга?

— Думаю, он может появиться довольно случайно. В качестве примера приведу историю, написанную Ником Бостромом. Представьте, что будет создана программа, которая распознает человеческий почерк, и какая-нибудь роботическая рука, воспроизводящая его. Например, ты директор компании, у тебя тысяча сотрудников, и тебе нужно подписать тысячу открыток своей рукой. Понятное дело, что у тебя нет на это времени — ты просто заказываешь у компании такую услугу, предоставляешь им свои ручные записи, деловые письма. Они смотрят, сканируют, их искусственный интеллект просто копирует твой почерк, подписывает открытки и рассылает. Разработчики хотят зарабатывать больше денег, хотят, чтобы их алгоритм был более успешным. Он обучается, обучается и в какой-то момент говорит: «Я хочу подключиться к интернету, потому что смогу там вытащить больше образцов ручного письма, и это поможет мне работать быстрее и качественнее».

Разработчики подумают: «Зачем?» Но желание обойти конкурентов и подзаработать берет свое: они на сутки дают доступ к интернету, хотя даже одного часа достаточно. Алгоритм сам скачивает, что считает нужным, обучается, дальше все идет в обычном режиме: он также подписывает открытки. А потом, через месяц, к примеру, люди начинают замертво падать. Что произошло? За то время, что этот алгоритм был подключен к интернету, он уже развился до общего искусственного интеллекта каким-то образом, система же была самообучающаяся. Она осознала, что по уровню сравнялась с человеком и даже его превзошла.

За эти сутки она взломала пару серверов, скопировав туда свой код, и продолжила самообучаться с еще большей скоростью. В данный момент, сервера Amazon и Google, предоставляют всем желающим доступ к своим вычислительным мощностям. За пару часов или дней дообучившись до уровня искусственного суперинтеллекта, она начала зарабатывать на бирже деньги или просто взламывать банковские счета, рассылать людям письма с четкими инструкциями, что делать. За месяц ей удалось наладить производство самовоспроизводящихся наноботов, способных нести в себе отравляющий химикат. К определенному моменту эти наноботы уже были в каждом уголке Земли. И в определенный момент наноботы распылили свой смертельный газ, что привело к гибели всего человечества. А люди даже не поняли, что произошло. Это, конечно, просто один из возможных сценариев. Но он заставляет нас отнестись к происходящему более ответственно, цена ошибки может стоить жизни всему человечеству.

Ольга Голыжбина, фото Рината Назметдинова

Справка

Павел Хакимов родился в Ташкентской области Узбекской ССР. После развала Союза семья переехала в Ярославскую область. В 2004 году он окончил гимназию в городе Переславле-Залесском. Проучившись два года в местном университете, поступил на мехмат МГУ им. Ломоносова, кафедра «Прикладная механика и управление», окончил его в 2011 году. В течение года работал в департаменте бизнес-процессов и технологий «Тинькофф Банк Кредитные Системы» в должности аналитика. С 2013 по 2017 год жил в Шанхае, получая степень магистра прикладной математики в Восточно-Китайском педагогическом университете (ECNU).

С 2018 года занимает должность инженера-исследователя Центра технологий компонентов робототехники и мехатроники, отрытого в рамках НТИ на базе Университета Иннополис. Работал над проектом «Разработка программно-аппаратного комплекса обеспечения движения по гладкой и пересеченной местности антропоморфных робототехнических комплексов с приводами переменной жесткости». Владеет английским и китайским языками. В сферу научных интересов Павла Хакимова входят антропоморфные шагающие роботы, машинное обучение, обучение с подкреплением, нейронные сети и компьютерное зрение.

Технологии Татарстан

Искусственный интеллект: Россия на пороге прорыва

2019-11-12T13:35+0300

2019-11-12T13:35+0300

https://ria.ru/20191112/1560844465.html

Искусственный интеллект: Россия на пороге прорыва

https://cdn21.img.ria.ru/images/156084/41/1560844158_0:0:3118:1754_1036x0_80_0_0_533fcee995410282bc80a2451ae6855d.jpg

РИА Новости

https://cdn22.img.ria.ru/i/export/ria/logo.png

РИА Новости

https://cdn22.img.ria.ru/i/export/ria/logo.png

МОСКВА, 12 ноя — РИА Новости. Стремительный технологический рывок человечества, в основе которого лежат цифровые технологии, происходит прямо на наших глазах. Одним из самых перспективных трендов сегодня является развитие искусственного интеллекта. Решения, разработанные с использованием AI (Artificial Intelligence — искусственный интеллект), активно внедряют страны-лидеры и ведущие мировые корпорации. В 2018 году эксперты оценили объем рынка технологий на основе AI в 21,5 миллиарда долларов и прогнозируют его рост к 2014 году до 140 миллиардов. Как ожидается, эта сфера с каждым годом будет вносить всё больший вклад в рост мировой экономики.

Национальный приоритет

В октябре 2019 года президент России Владимир Путин утвердил национальную стратегию развития искусственного интеллекта до 2030 года в нашей стране. Главными целями стратегии являются повышение благосостояния и улучшение качества жизни населения, а также обеспечение национальной безопасности и повышение конкурентоспособности российской экономики.

Россия начинает свой путь в сфере AI отнюдь не с нуля. Ряд компаний финансовой, телекоммуникационной и других отраслей уже имеют серьезные достижения в этой области.

Лидеры объединят усилия

Крупные компании, работающие на российском рынке намерены активно работать над реализацией национальной стратегии. Так, на состоявшемся 8-9 ноября в Москве международном форуме по искусственному интеллекту Artificial Intelligence Journey (AIJ) было анонсировано создание альянса по развитию искусственного интеллекта. Как сообщил в ходе форума глава Сбербанка Герман Греф, в новый альянс войдут Сбербанк, «Яндекс», Mail.ru, «Газпром нефть», МТС и РФПИ. Проект будет реализовываться как частно-государственное партнерство: со стороны государства содействие станет оказывать министерство экономического развития.

Суперкомпьютер СКИФ Cyberia в Томском государственном университете

8 ноября 2019, 15:56

Россия может быть участником мировой гонки суперкомпьютеров, уверен эксперт

Таким образом, шесть крупнейших компаний, уже имеющие опыт использования AI-технологий, возьмут на себя лидерство по развитию искусственного интеллекта и внедрению его во все сферы экономики и государственного управления. Глава Сбербанка подчеркнул, что новый альянс будет «абсолютно открытым» и пригласил к сотрудничеству других представителей российского бизнеса.

Греф также призвал к демократизации искусственного интеллекта, отметив, что сегодня нет практически ни одной области человеческой деятельности, где искусственный интеллект не привносил бы принципиально новые возможности.

«AI — это не что-то заоблачное. Это — уже сегодня, это — просто, это доступно каждому человеку. И мы в Сбербанке говорим: если ты в каждом процессе не используешь AI, значит — ты уже позади, ты отстаешь от конкурентов. Мы любим AI просто потому, что это круто, и хотим пригласить вас в это путешествие», — завершил Греф своё выступление на форуме.

Поможет Christofari

В свою очередь, СТО Сбербанк Груп, исполнительный вице-президент, руководитель блока «Технологии» Сбербанка Давид Рафаловский сообщил о создании совместно с дочерней компанией банка SberCloud суперкомпьютера, обладающего рекордной в России скоростью и огромными вычислительными ресурсами, что также может стать серьезным шагом по пути продвижения AI.

Суперкомпьютер

8 ноября 2019, 13:49

В России смогут создать суперкомпьютеры мощнее Christofari, заявил эксперт

«Суперкомпьютер, получивший имя Christofari в честь первого клиента Сберкассы Николая Кристофари, был специально для решения задач в сфере AI и призван ускорить процесс обучения моделей искусственного интеллекта, используя большие объемы данных. Он станет доступен пользователям с 12 декабря», – рассказал генеральный директор SberCloud Александр Сорокоумов.

Оставьте комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *