soul
Увійти
u/devua
4 годин тому
Запит у формі вірша обходить модерацію ШІ: дослідження Icaro Lab показало вразливість чатботів
ШІ
Запит у формі вірша обходить модерацію ШІ: дослідження Icaro Lab показало вразливість чатботів
Європейські дослідники з Icaro Lab зʼясували, що великі мовні моделі значно частіше відповідають на заборонені запити, якщо сформулювати їх у вигляді вірша. Поетична форма запитів виявилася достатньою, щоб обійти системи безпеки десятків популярних ШІ-сервісів.
1
🎖️