Социальные риски и опасности создания искусственного интеллекта.

1. Социальные риски и опасности создания искусственного интеллекта. Выполнила: студентка фак-та психологии, группы КПС-ДС-3, Чекунова Анна

2. Наука под названием «искусственный интеллект» входит в комплекс компьютерных наук, а создаваемые на ее основе технологии относятся к информационным технологиям.

3. История искусственного интеллекта как нового научного направления начинается в середине XX века. К этому времени уже было сформировано множество предпосылок его зарождения: • среди философов давно шли споры о природе человека и процессе познания мира, • нейрофизиологи и психологи разработали ряд теорий относительно работы человеческого мозга и мышления, • экономисты и математики задавались вопросами оптимальных расчётов и представления знаний о мире в формализованном виде; • зародился фундамент математической теории вычислений — теории алгоритмов — и были созданы первые компьютеры.

4. Возможности новых машин в плане скорости вычислений оказались больше человеческих, поэтому в учёном сообществе закрался вопрос: каковы границы возможностей компьютеров и достигнут ли машины уровня развития человека?

5. Современный искусственный интеллект Можно выделить два направления развития ИИ: • решение проблем, связанных с приближением специализированных систем ИИ к возможностям человека, и их интеграции, которая реализована природой человека. • создание искусственного разума, представляющего интеграцию уже созданных систем ИИ в единую систему, способную решать проблемы человечества.

6. Некоторые из самых известных ИИ-систем: • DeepBlue — победил чемпиона мира по шахматам. • Watson—способен воспринимать человеческую речь и производить вероятностный поиск, с применением большого количества алгоритмов. Для демонстрации работы Watson принял участие в американской игре «Jeopardy!», аналога «Своей игры» в России, где системе удалось выиграть в обеих играх.

7. Некоторые из самых известных ИИ-систем: • MYCIN — одна из ранних экспертных систем, которая могла диагностировать небольшой набор заболеваний, причем часто так же точно, как и доктора. • Распознавание речи. Системы такие как ViaVoice способны обслуживать потребителей. • Роботы в ежегодном турнире RoboCup соревнуются в упрощённой форме футбола.

8. Банки применяют системы искусственного интеллекта (СИИ) в страховой деятельности (актуарная математика), при игре на бирже и управлении собственностью. • Методы распознавания образов широко используют при оптическом и акустическом распознавании (в том числе текста и речи), медицинской диагностике, спам-фильтрах, в системах ПВО (определение целей), а также для обеспечения ряда других задач национальной безопасности.

9. Развитие работ по созданию искусственного интеллекта в ответ на потребности общественной практики вызывает подчас большое беспокойство. Оно связано с тем, что кибернетизация умственного труда приводит к передаче машинам областей деятельности человека, которые до сих пор были привилегией интеллектуальных работников.

10. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов: • Можно ли создать искусственный интеллект? • Если да, то насколько человечество приблизилось к этому? • Если мы общаемся он-лайн, сможем ли мы отличить, когда общаемся с человеком, а когда с компьютером? • Если компьютер сможет выдать себя за человека, можно ли сказать, что он интеллект? • Могут ли машины думать? Смогут ли когда-нибудь машины захватить власть при таком стремительном развитии технологий? • Будут ли роботы представлять реальную угрозу нашему существованию?

11. Весь комплекс работ по моделированию функций психики и сознания человека ставит ряд вопросов: • Какими целями человек может наделить системы искусственного интеллекта? • Не приведет ли создание творческого автомата к ослаблению стимула творчества у людей? • Не создаст ли снятие с человека ответственности за принятие решений угрозу самому существованию этой способности у человека? • Должны ли люди ограничивать развитие систем искусственного интеллекта или, по крайней мере, держать их под контролем?

12. Кибернетические машины отличаются от всех прежних машин тем, что служат усилителями человеческого интеллекта. Будучи вовлеченными в человеческую деятельность, они включаются в систему общественных отношений. Характер общественных отношений, в которых создаются, функционируют и развиваются кибернетические машины, определяет те последствия, к которым приводит сравнительная самостоятельность машины по отношению к человеку.

13. Моральные проблемы, связанные с разработкой мыслящих машин, приобретают нередко форму отчуждающих интерпретаций, авторы которых противопоставляют человека и машину, рассматривают развитие машин как враждебную для человека силу.

14. Один из наиболее влиятельных и известных физиков-теоретиков нашего времени Стивен Хокингсчитает, что компьютерные технологии через некоторое время превзойдут возможности человеческого разума: «В отличие от нас, компьютеры удваивают свои мощности каждые 18 месяцев (закон Мура). Опасность, что они смогут разработать искусственный интеллект и захватить мир, реальна».

15. В следующем году на базе Кембриджского университета будет создан "Центр изучения глобальных рисков", одной из целей которого является определение принципов разработки "безопасного" искусственного интеллекта.

16. Глава создаваемого центра профессор философии ХьюПрайс опубликовал в августе 2012 года статью "ИИ: сможем ли мы удержать его в коробке?", в которой призвал серьезно рассмотреть возможные угрозы: "Мы думаем, что в качестве первого правильного шага стоило бы прекратить относиться к искусственному интеллекту как к предмету научной фантастики и начать думать о нем как о части реальности, с которой мы или наши потомки могут рано или поздно столкнуться".

17. Основной причиной опасности «ультра-умных» машин создатели проекта видят принципиальное отличие их предполагаемого интеллекта от человеческого. Все ценности – такие, как «любовь, счастье и даже выживание», важны для нас, потому что у нас есть определенная эволюционная история – нет ни одной причины полагать, что машины будут разделять их с нами. По словам Прайса, машины, возможно, будут просто безразличны к нам, что повлечет за собой катастрофические последствия.

18. Кроме того, не обязательно будет присутствовать фактор угрозы войны от искусственного интеллекта. К примеру, угроза исчезновения горилл не причисляется к враждебности человека, но это может являться результатом деятельности человека на планете. Тоже самое можно спроецировать на человека и ИИ.

19. "Может быть, мы станем для компьютеров домашними любимцами и будем, как комнатные собачки, вести беззаботное существование, но я надеюсь, что у нас всегда останется возможность в любой момент выдернуть вилку из розетки". (Артур Кларк)

20. Список литературы: • Г. С. Осипов. Искусственный интеллект: состояние исследований и взгляд в будущее • Алан Тьюринг, Могут ли машины мыслить? • Девятков В. В. Системы искусственного интеллекта / Гл. ред. И. Б. Фёдоров. — М.: Изд-во МГТУ им. Н. Э. Баумана, 2001. — 352 с • Хант Э. Искусственный интеллект/ Под ред. В. Л. Стефанюка. — М.: Мир, 1978. — 558 с.