Midjourney, компания, создавшая популярнейшую нейросеть для генерации изображений по текстовому описанию, закрыла доступ к бесплатной пробной версии из-за роста числа подделок или «дипфейков» (Deep Fake), созданных с помощью ее технологии.
«Из-за сочетания чрезвычайного спроса и злоупотребления пробными версиями мы временно отключаем бесплатные пробные версии до тех пор, пока у нас не будут развернуты следующие улучшения системы», — написал основатель Midjourney Дэвид Хольц на сервере Discord компании.
«Дипфейки», созданные при помощи искусственного интеллекта, — это фото и видео, которые демонстрируют, как реальные люди делают или говорят то, чего они никогда не делали или не говорили. Некоторые «дипфейки» могут использоваться в развлекательных целях, но иногда они распространяют ложную информацию, влияют на мнения или наносят ущерб репутации.
Ранее на этой неделе в сети появились фотографии Папы Франциска в суперстильном белом пуховике и инкрустированном бриллиантами колье. На прошлой неделе, когда основные новостные сайты сообщили о том, что бывшего президента США Дональда Трампа вот-вот арестуют в Нью-Йорке, в сеть попала волна фотографий, на которых экс-президента якобы задерживает полиция.
Многие сайты с генеративным ИИ, в том числе Midjourney и Playground AI, уже ввели ограничения на описания, содержащие сексуальный контент.
Цены на подписку Midjourney варьируются от 10 до 60 долларов в месяц, в зависимости от вычислительной мощности и функций, которые требуются пользователю, включая возможность запуска параллельных заданий. Платформа также предлагает годовые подписки.