Анимирани плодове, насилие и екстремизъм: Новата опасност от AI slop за децата

Нискокачественото съдържание, създадено от изкуствен интелект, по-специално анимационните видеоклипове с плодове, генерирани от ИИ, допринася за значителен когнитивен упадък и прояви на агресия у децата, сочи ново изследване.

Анализът, изготвен от Глобалната мрежа за екстремизъм и технологии (GNET), установи, че генерираните от изкуствен интелект анимирани видеоклипове с плодове, които в момента са широко разпространени в детските емисии по целия свят, биха могли да бъдат начин за тайно разпространение на "насилствено и екстремистко съдържание“.

"Помията“ от изкуствен интелект се отнася по-специално до масово произвеждано, силно повтарящо се и нискокачествено генерирано от изкуствен интелект съдържание, което обикновено има малко или никакво човешко докосване. Те обикновено дават приоритет само на гледания, кликвания, ангажираност и приходи от реклама и се произвеждат много евтино.

По този начин един създател би могъл потенциално да създаде стотици от тези кратки видеоклипове, заливайки множество платформи с огромни количества съдържание. Тъй като много платформи за социални медии възнаграждават постоянната активност и качвания, тази стратегия може да бъде много ефективна за достигане до милиони деца по целия свят.

Мозъчно гниене

Това допринася за когнитивен упадък или "мозъчно гниене“, което се отнася до културните и психологически ефекти от консумацията на твърде много бързи, свръхстимулиращи, умишлено безсмислени медии, което често е абсурдно и се възползва от навици като безкрайно превъртане и преследване на мигновени допаминови удари, пише Euronews.

 

 

 

 

View this post on Instagram

 

 

 

 

 

 

 

 

 

 

 

Възходът на евтини, лесни за научаване и изключително удобни приложения като PixVerse, VeoE.ai, Media.io и Sora също допринесе за рязкото увеличение на този тип генерирано от изкуствен интелект съдържание през последните години.

Радикализация онлайн

Генерираното от изкуствен интелект (ИИ) нискокачествено съдържание (slop) може скрито да разпространява радикализиращи материали чрез видеоклипове, които на пръв поглед изглеждат безобидни, абсурдни или дори забавни - например анимации с плодове и зеленчуци.

Този тип съдържание често включва драматични сюжети с романтика, семейни конфликти, предателство и изневяра, представени от привидно невинни анимирани плодове. Тези видеа могат да демонстрират сериозна агресия и емоционално насилие, както и да оказват силно свръхстимулиращо въздействие върху податливата психика чрез специфичните си похвати на разказване.

В много случаи тези видеоклипове се използват и за прослава и разпространение на идеите на насилствения екстремизъм и терористичните атаки, като се възползват от популярни онлайн тенденции и теми, за да привлекат внимание.

Създадените от ИИ анимации с плодове и зеленчуци често съдържат сцени на изтезания, тежки осакатявания и хиперреалистично насилие; това може значително да притъпи чувствителността на аудиторията, тъй като насилието е „маскирано“ зад познатия и безобиден образ на анимираните персонажи.

В тях могат да бъдат показани също така покушения, инциденти с множество жертви и брутални убийства – например как един плод убива друг с оръжие.

Често тези видеоклипове споделят характеристики с материали на екстремистки организации, проповядващи крайнодясна, нихилистична или насилствена идеология, както и с такива на престъпни картели.

Например, един популярен персонаж – Морковът Халифа (Carrot Khalifah) – често е изобразяван във видеоклипове как заявява пред армия, че „Държавата на морковите ще възкръсне“, което е препратка към идеологията и пропагандата на „Ислямска държава“ (ИД).

Макар платформи като TikTok да прилагат политики за предотвратяване на разпространението на подобно съдържание, включващо крайно насилие, те не са напълно надеждни, тъй като генериращите системи с изкуствен интелект могат да заобиколят тези мерки, маскирайки се като привидно безобидно съдържание.