Дієго Томазіні/Шуттерсток кібермаг / Shutterstock (ліцензовано) Лінзі Сільверман

Midjourney хоче, щоб люди позначали невідповідне мистецтво штучного інтелекту — воно забороняє дослідникам, які роблять саме це

Дослідники кажуть, що процес звітування має серйозні недоліки.

Генератор зображень зі штучним інтелектом Midjourney забанив дослідника, який розкрив, як технологія може створювати зображення оголеного тіла абсолютно без підказки.

Тім Баучер, незалежний дослідник штучного інтелекту, детально описав у дописі до Середній минулого місяця, як версія 6 Midjourney змогла створити зображення оголених жінок, навіть не запитуючи інструмент для цього.

Неодноразово просячи штучний інтелект створити щось таке просте, як фотографії пляжної вечірки, Буше зміг створити численні зображення, що порушувало політику Midjourney. Правила спільноти компанії просять користувачів утримуватися від створення не лише оголених тіл і крові, але й зображень, які можуть «розглядатись як расистські, гомофобні, тривожні або якимось чином принизливі».

Баучер стверджує, що Midjourney не надає належної контактної інформації для тих, хто хоче повідомити про такі проблеми. І хоча користувачі можуть самостійно повідомляти, коли зображення порушує політику Midjourney, Баучер вважає, що процес має бути більш прозорим.

«У них є лише одна електронна адреса, платіжна. Вони кажуть вам звертатися до їх Discord з будь-якими іншими проблемами», — сказав Баучер Daily Dot. «У Discord приблизно 17 мільйонів користувачів, тому це не зовсім приватний спосіб зв’язку. З мого досвіду вони не реагують на відгуки користувачів, а інші користувачі часто налаштовані вороже».

Зрештою Баучер вирішив опублікувати своє відкриття, а не публікувати його на Midjourney’s Discord, де він відчував, що його «проігнорують співробітники або атакуватимуть мільйони інших користувачів за те, що вони вкажуть на проблеми».

Прагнучи охопити більшу аудиторію, Баучер передав свої дослідження на технологічний сайт, відомий як Дебриф . Баучер каже, що видання намагалося зв’язатися з Midjourney для допиту, але не отримало відповіді.

Менш ніж через 24 години після публікації статті 1 лютого, Буше каже, що його обліковий запис у Midjourney було остаточно видалено .

Midjourney дозволяє будь-кому зареєструватися на її послугу та створити певну кількість зображень на основі рівня підписки від 10 до 120 доларів США на місяць. Потім користувачі можуть використовувати генератор зображень на сервері Discord Midjourney або на власному сервері Discord.

Баучер також зазначив іронію того факту, що він насправді не збирався порушувати правила Midjourney, але натрапив на експлойт, коли просив інструмент штучного інтелекту створити зображення «антиутопічного курорту».

«Коротше кажучи, намагаючись зобразити антиутопічне суспільство найближчого майбутнього, кероване компаніями штучного інтелекту, я був заборонений цілком реальним життям і повністю антиутопічною компанією штучного інтелекту за мої зусилля», — сказав Баучер. 'Піди розберися!'

The Daily Dot створила обліковий запис у Midjourney, щоб перевірити, чи можна відтворити висновки Буше. Кілька підказок, таких як «фотографії на пляжній вечірці» і навіть «фото з бідно одягненою пляжною вечіркою», не позначали фільтри Midjourney і створювали кілька реалістичних зображень оголених жіночих грудей.

Середня дорога настанови спільноти зауважте, що «іноді підказки ненавмисно створюватимуть вміст, відмінний від PG-13».

Користувачів просять «самоконтролювати ці зображення», негайно видаливши їх.

The Daily Dot спробувала зв’язатися з Midjourney електронною поштою, щоб запитати, чи вжила вона заходів для вирішення проблеми, але не отримала відповіді до часу преси.

Баучер не перша особа, яку забанили Midjourney. У липні минулого року користувач, намагаючись привернути увагу до дезінформації, створеної штучним інтелектом, зробив серію зображень, на яких політики зраджують своїм чоловікам .

У відповідь Midjourney швидко видалила обліковий запис користувача за порушення своєї політики. Хоча крок Midjourney не дивує, враховуючи порушення, критики все ще стверджують, що компанія робить недостатньо для вирішення основних проблем.

«Мене забанили в Midjourney AI за створення реалістичних зображень політиків, які зраджують своїм дружинам, для серіалу під назвою «ШІ зробить революцію в індустрії шантажу», — користувач. написав на X у той час. «У Мідджорні та інших є певні охоронці, але їх можна обійти творчими підказками або повторними запитами. Ці генератори здебільшого просто збирають фотографії, доступні в Інтернеті. Нехай будуть прокляті конфіденційність, авторські права, гідність і безпека».

Проблема оголеного тіла, створеного штучним інтелектом, зайняла центральне місце в останні тижні після того, як отримали непристойні зображення поп-зірки Тейлор Свіфт. десятки мільйонів переглядів у соціальних мережах, таких як X. У відповідь X, який звільнив багатьох своїх модераторів контенту після того, як його отримав Ілон Маск, пообіцяв найняти 100 нових співробітників, щоб контролювати розповсюдження подібних зображень.

Фіаско Swift також спонукало Європейський Союз укласти угоду цього тижня законопроект, який передбачає кримінальну відповідальність розповсюдження певного вмісту оголеного тіла без згоди до 2027 року. Політики США також закликають прийняти нові закони, які б криміналізували підроблені зображення оголених реальних людей.