Нейросети предложили проверять на этичность перед запуском для пользователей

Искусственный интеллект должен проходить обязательную проверку на соблюдение этических норм перед тем, как его допустят к использованию. С таким предложением выступили эксперты на дискуссии об этике ИИ в рамках интенсива «ГорИИзонты: эволюция медиа» в Москве.

По словам профессора РАН, профессора МГУ и МФТИ Константина Воронцова, для этого потребуется создать тысячи специальных тестов, которые покажут, как языковая модель ведет себя в разных коммуникативных ситуациях.

"Для этого нужны специалисты, в основном гуманитарных профессий, которые скажут, этично или неэтично то или иное высказывание, тот или иной диалог. И надо собрать много таких примеров, и на них построить тесты. А тестов таких нужны не десятки, не сотни, а тысячи. На основе чего появятся процедуры сертификации, когда, не пройдя эти тесты, модель не может быть выпущена для использования людьми", — пояснил Воронцов.

Научный сотрудник Центра искусственного интеллекта МГИМО Алёна Цыплакова считает, что вместе с развитием технологий необходимо формировать культуру их безопасного использования:

"Нам нужна тотальная ИИ-гигиена. Важно понимать, как постоянное взаимодействие с интеллектуальными системами влияет на восприятие человеком реального мира, человеческих отношений и самого себя".

Участники дискуссии также отметили, что ответственность за работу искусственного интеллекта несут не сами технологии, а люди, которые их создают, обучают и внедряют. По мнению экспертов, дальнейшее развитие ИИ потребует единых правил, которые помогут сделать использование нейросетей безопасным и прозрачным.