Der populäre KI-Bildgenerator Midjourney stellt seine kostenfreie Version ein. Als Grund gibt CEO David Holz an, dass zu viele Menschen den Dienst nutzen wollen – teils auch missbräuchlich. Die Hintergründe.
Der Papst in weißer Hipster-Daunenjacke, die Festnahme von Donald Trump – beide Fake-Bilder und noch einige andere gingen kürzlich viral. Erstellt wurden sie mit dem beliebten KI-Bildgenerator Midjourney.
Doch nun stellen die Macher die bisher kostenlose Testversion der Software bis auf Weiteres ein. Grund dafür: Zuviel Nachfrage. Auch von Missbrauch und vielen sogenannten Wegwerfkonten ist die Rede.
Midjourney: Kostenlose Testversion beendet
Wie The Verge und The Washington Post berichten, begründet Midjourney-Gründer und CEO David Holz die Entscheidung damit, dass das Unternehmen eine außergewöhnliche Nachfrage feststellte. Er teilte zudem mit, dass die Pause auch „wegen einer massiven Menge an Leuten die Wegwerfkonten erstellen, um kostenlose Bilder zu bekommen“, erfolge.
Der Ansturm komme seiner Vermutung nach auch dadurch, dass Content-Creator in China ein virales How-to-Video veröffentlichten. In Kombination mit einem Grafikartenmangel bei Midjourney kam der Dienst für zahlende Nutzer:innen daraufhin zum Erliegen.
Außerdem spricht Holz auch von einem Missbrauch der Software. Die entsprechenden Sicherheitsmechanismen sind in den Augen des CEOs noch nicht ausreichend – vor allem im Hinblick auf Fake-Fotos wie die des Papstes oder Trumps.
CEO Holz will Sicherheitssoftware verbessern
Um derartige Bilder herzustellen, bedarf es keiner besonderen technischen Fähigkeiten. Midjourney erstellt sie auf Basis einfacher Texteingaben. Deshalb will Holz künftig Regeln für die Darstellung echter Menschen festlegen. Denn die Bilder werden immer realistischer und die Werkzeuge immer leistungsfähiger.
Ein erster Schritt solle die Verbesserung der KI-Programme sein, mit denen das Unternehmen die erstellten Bilder auf Missbrauch überprüfen könne.
Ende von Midjourney-Testversion wird Problem nicht lösen
Die kostenlose Testversion von Midjourney bis auf Weiteres einzustellen, kann das Missbrauchsproblem allerdings kaum lösen. Denn wie Holz gegenüber The Verge außerdem erklärt, ist die kostenfreie Version gar nicht für Deep-Fake-Fotos wie das der Trump-Festnahme verantwortlich. Realistische Bilder auf diesem Niveau könnten nur mit der neuesten Version des Dienstes erstellt werden – und der war von jeher kostenpflichtig.
Das Problem liege vielmehr darin, dass die Reaktion von Midjourney auf die politisch heikle, eskalierende Bedrohung durch gefälschte Bilder bisher nur Stückwerk sei, ohne dass die Moderationsrichtlinien grundlegend überarbeitet worden sind. Denn die Inhaltsbeschränkungen der Software seien freizügiger als die einiger konkurrierender Dienste wie beispielsweise OpenAIs DALL-E.
Testversion könnte zurückkehren
Während er zwar noch keinen genauen Zeitpunkt nannte, stellte Holz gegenüber The Verge trotzdem bereits in Aussicht, dass Midjourney daran arbeite, die kostenlose Testversion künftig wieder anzubieten. Man habe bereits versucht, eine aktive E-Mail zu verlangen. Allerdings war diese Maßnahme noch nicht genug. Das Unternehmen sei jedoch wieder am Reißbrett, so Holz.
Auch interessant:
