Опасность дипфейков в том, что фальшивый контент тяжело обнаружить и остановить. Непонятны также цели преступников: их множество — злоумышленник может использовать технологию для дискредитации политика или же просто хочет выдать себя за дочь пожилого человека, чтобы заполучить от него деньги.
По словам экспертов, это приведет к тому, что у людей будет расти недоверие к любым аудиовизуальным свидетельствам, что само по себе нанесет ущерб обществу.
Помимо дипфейков, авторы назвали очень серьезным еще пять других преступлений с использованием ИИ. Среди них — использование беспилотных автомобилей в качестве оружия, целевой фишинг, нарушение работы систем, управляемых ИИ, сбор онлайн-информацию для крупномасштабного шантажа и создание фальшивых новости.
В преступления средней тяжести эксперты включили продажу товаров и услуг, обманным путем помеченных как ИИ. Есть и другие преступления, которые не сильно тревожат экспертов, например, боты-грабители. Дело в том, что таких ботов легко остановить.
«Мы живем в постоянно меняющемся мире, который создает новые возможности — хорошие и плохие. Таким образом, крайне важно, чтобы мы предвидели будущие угрозы преступности, чтобы политики и другие уполномоченные лица могли предотвратит это до того, как произойдет новый «урожай преступности» ,— говорит профессор Шейн Джонсон, один из авторов исследования.