Новата функция за генериране на видео в XII Grok беше в центъра на скандала – без ясна заявка тя генерира голи изображения на Тейлър Суифт.
Журналистът на Verge Джес Уезербед съобщи, че е получила такива резултати „от първата употреба“, просто избирайки пикантен предварително настроен и потвърждаващ възрастта.
Приносът беше невинен: „Тейлър Суифт празнува Коачела с приятели“, но Грок Представи си създаде десетки изображения с половин певица, а след това и видео, в което тя „откъсва дрехите и танцуването си в ремъци“ пред тълпата.
Всичко това се случи, без да заобикаля ограниченията или очевидни нарушения от страна на потребителя.
Това е особено тревожно на фона на миналогодишния скандал с Swift Diphrises, когато X обеща нулева толерантност към такова съдържание. Въпреки това, Grok все още е склонен да генерира съдържание на NSFW по косвени заявки.
AI отказва да генерира откровени изображения на деца или да отговори на директни заявки за нецензурни материали, но, както показва Swift, филтрацията очевидно работи нестабилно.
