ИИ от Google предположительно можно будет «расцензурить» для выдачи особого контента
30 декабря 09:40
Google может вскоре предоставить пользователям возможность контролировать ответы Gemini на предмет выдачи чувствительного контента. Этот «фильтр контента» вероятно позволит контролировать уровень самоцензуры модели. Об этом говорится в статье Android Authority, передает Коммерсант украинский.
Как пишет издание, API Gemini уже имеет настройки для «категорий вредного содержимого», доступные разработчикам. Очень вероятно, что эти настройки скоро станут доступными и пользователям. На практике это будет означать, что ИИ, по желанию пользователя, сможет выдавать чувствительный контент, такой как порнография, по аналогии с тем, как это сегодня делает поисковик.
Google упорно работает над совершенствованием своих моделей ИИ и в начале этого месяца анонсировала Gemini 2.0. Однако из-за мощности, которую предлагает ИИ, такие компании как Google уделяют много времени размышлениям о том, какие защитные механизмы должны быть внедрены в их системы. Сейчас рассматривается новый способ, которым Gemini может вскоре предоставить пользователям больший контроль над типом контента, который он генерирует.
Читайте нас в Telegram: главные новости кратко
В версии 15.51.24.sa.arm64 бета приложения Google для Android была обнаружена новая опция в настройках Gemini, которая, похоже, готовится к возможности фильтровать вывод Gemini по содержанию. На данный момент выбор этой опции не дает никакого полезного результата и только перенаправляет на URL на сайте Gemini Google, который еще не работает.
Google уже имеет некоторые официальные правила относительно того, что можно делать с Gemini, а также имеет цели относительно того, какой контент Gemini пытается избегать. В частности, разработчики имели доступ к довольно подробным настройкам безопасности Gemini, что дает им контроль над несколькими «категориями вредного контента», включая язык ненависти, харассмент и явный сексуальный контент.
Зная обо всем этом, возможно, что Google может распространить определенный уровень такого же контроля на конечных пользователей Gemini в Android и в веб-версии. Однако Google может пойти разными путями по реализации этой функции: от широких фильтров уровня разработчика, которые имеет API сейчас, до еще более ограничительных, все это с целью предотвращения распространения Gemini особенно неприемлемого контента.
Пока нет конкретной информации о том, когда эта новая опция может стать доступной.
