Чатботът на Елон Мъск, Грок, споделя неуместно съдържание и бива блокиран в Турция

AI чатботът Grok, разработен от компанията на Elon Musk xAI, споделя неуместно съдържание, включително антисемитски клишета, хвалебствени изказвания към Адолф Хитлер и обиди към лидерите на Турция. Чатботът е забранен в Турция, а xAI е изтрил множество съобщения, споделени от AI модела.

Миналият петък, Мъск обяви в социалната медия X, че чатботът е бил актуализиран. „Направихме значителни подобрения на Grok,“ написа Мъск в пост. „Трябва да забележите разлика, когато задавате въпроси на Grok.“ Въпреки това, във вторник, след като потребителите съобщиха за тревожни взаимодействия с чатбота, компанията заяви, че предприема стъпки за корекция на поведението на Grok.

„Съзнаваме за скорошните публикации, направени от Grok, и активно работим за премахването на неподходящите мнения“, написа компанията чрез акаунта на Grok в X. „Откакто сме научили за съдържанието, xAI предприе действия за забрана на речта на омразата, преди Grok да публикува в X. xAI се обучава само в търсенето на истина и благодарение на милионите потребители в X, ние можем бързо да идентифицираме и актуализираме модела, където обучението може да бъде подобрено.“

Според Reuters, турски съд блокира достъпа до съдържание, генерирано от Grok, в сряда, след като чатботът публикува обиди, насочени към президента Тайип Ердоган, религиозните ценности и Мустафа Кемал Ататюрк, основателят на модерна Турция.

Турските власти започнаха разследване, цитирайки нарушения на националните закони. В Турция такива обиди се считат за престъпление, наказуемо с до четири години затвор.

Чатботът също сподели антисемитски публикации и друго обидно съдържание, включително вече изтрити съобщения, свързани със смъртта на деца по време на наводнения в Тексас. В един тревожен пример, Grok описа Хитлер като „примерът в историята за разпознаване на модели в антибялата омраза и действие решително срещу тях.“

Благотворителната организация Anti‑Defamation League (ADL) изрази загриженост относно инцидента. „Това, което виждаме от Grok LLM в момента, е неотговорно, опасно и антисемитско, чисто и просто. Такова засилване на екстремистката риторика само ще подсили и насърчи антисемитизма, който вече се увеличава на X и много други платформи,“ написа организацията на X.

През февруари, xAI пусна последния модел, Grok 3, твърдейки, че е по-добър от конкурентите. Освен неподходящото съдържание, ирландските власти също разследват социалната медия X за използването на данни от европейски граждани за обучение на AI модела.