"Вы ужаснетесь". Шевцов о том, что представляет собой система GPT-4 и в чем ее опасность

25 ноября, Минск /Корр. БЕЛТА/. Политолог Юрий Шевцов в проекте "В теме" на YouTube-канале БЕЛТА рассказал о том, что из себя представляет технология искусственного интеллекта GPT-4, как она работает и в чем таится ее опасность.

Отвечая на вопрос о том, что из себя представляет технология GPT-4, Юрий Шевцов отметил: "Сама по себе эта технология для специалистов чем-то сногсшибательным не является. К ней готовились, она выросла на базе известных разработок. Просто в последние несколько лет, и особенно в уходящем году, произошел выход этой технологии на массового потребителя. Была запущена такая система GPT-4 и она неожиданно, этот поисковик и эта коммуникационная система, она стала давать эмпирические результаты, которые многих насторожили".

"Дело в том, что теоретически было все понятно с искусственным интеллектом, чего от него ожидать, каких опасностей. Но массовый потребитель осознал это только тогда, когда накопился эмпирический материал от массового использования этой технологии. И в числе этого эмпирического материала выступило наиболее пугающим то, что GPT-4 стала отвечать на вопросы, касающиеся уничтожения человечества. В принципе, в эту систему закладываются своего рода фильтры еще по Станиславу Лему, то есть робот не должен приносить вреда человеку. В нее это заложено. Но когда этой системой стали пользоваться десятки миллионов людей, то они нашли подходы, как переформулировать эти запросы. Ну, что-то наподобие "Как предупредить работу системы, которая имеет целью уничтожить человечество? Дайте алгоритм". И она сначала объясняет как, а потом дает алгоритм".

Политолог добавил: "И пока эта система была обучена слабо, пока была начальная фаза ее использования, то там это все особо не было опасно. Но когда за несколько месяцев миллионы людей ее обучили своими запросами и какой-то информацией достаточно многому, то эти результаты стали вызывать у нас огромную настороженность".

"Как это может выглядеть? Подробности в медиа не сбрасывались по конкретным опасным ее алгоритмам, но я хорошо представляю, как это работает. Если вы возьмете поисковики, например, в даркнете, которые существуют, и совместите с GPT-4, вы ужаснетесь, потому что, например, есть целые закрытые поисковики для любителей всего этого даркнета, где размещаются точки входа в информационные системы водоканалов, атомных электростанций, железных дорог, электросетей, крупных мегаполисов. Они, конечно, защищены, но умельцы находят точки входа", - пояснил Юрий Шевцов.-0-

Проект создан за счет средств целевого сбора на производство национального контента.