"Угроза возникла реальная". Может ли нейросеть выйти из-под контроля человека, рассказал эксперт

6 декабря, Минск /Корр. БЕЛТА/. Политолог Юрий Шевцов в проекте "В теме" на YouTube-канале БЕЛТА рассказал о том, могут ли системы искусственного интеллекта выйти из-под контроля человека, и пояснил, почему была приостановлена работа над ними.

Отвечая на вопрос о том, может ли система наподобие GPT-4 выйти из-под контроля человека, Юрий Шевцов отметил: "Да, безусловно. Искусственный интеллект облегчает поиск точек входа в места уязвимости. И обучение GPT-4 этим всем возможностям шло так быстро, что угроза возникла реальная. Поэтому именно те люди, которые создавали GPT-4, а также близкие к ним интеллектуалы, работающие в области искусственного интеллекта, они уже весной в Соединенных Штатах подняли огромный шум на эту тему, чтобы хотя бы притормозить развитие этих массовых искусственных интеллектов с тем, чтобы накопленный эмпирический материал можно было осмыслить и поискать какие-то сдерживающие механизмы. Так и сделали".

"GPT-4 большей частью сделали платной с ограниченным входом. И хотя требовали специалисты на год остановить ее развитие, но полностью не остановили. И сейчас, как ни странно, к 7 ноября компания объявила о новой системе, которую она запускает, - GPT-4 Turbo. И она будет гораздо более мощной. Но пока она запускается в платном режиме, пускай там небольшие деньги, но ее обучать будут те специалисты-компьютерщики, которые любят работать с бета-версиями разных сложных систем. Это будет длиться 2-3 месяца, а потом ее планируют сделать массовой. Поэтому половинчатым решением было приостановлено развитие GPT-4, сейчас возобновлено. И где-то после Нового года нас, скорее всего, ждет огромный бум всего того, что будет порождаться этой системой GPT-4 Turbo и похожими на нее", - сказал эксперт.-0-