Es gibt da eine Seite im Internet, auf der kann man sich durch verschiedene Bilder klicken. Man sieht darauf Landschaften, Menschen, Flughäfen, und auf dem einen, an dem ich hängen bleibe, sieht man einen Elch. Der liegt ganz friedlich im Wald herum. Drumherum sieht man hohes Gras, kräftige Kiefern und ein paar Sonnenstrahlen, die durch die Bäume hindurchscheinen. Das Bild wurde von unten aufgenommen. Dadurch sieht der Elch irgendwie so ein bisschen majestätisch aus.
Unter dem Bild sind zwei Buttons: Echt oder Fake. Ich muss mich entscheiden. Und plötzlich fange ich an, genauer hinzuschauen. Ist das Fell vielleicht zu glatt? Stimmt das Licht? Oder ist das am Ende gar kein echter Elch? Genau das wird bei KI-generierten Bildern und Videos immer schwieriger. Sie sehen oft täuschend echt aus, obwohl sie komplett künstlich erzeugt oder manipuliert sind.
Das Quiz, das ich mache, stammt von der Seite WeFightFakes. Entwickelt wurde es vom Startup Neuramensa. Das Unternehmen baut 2024 eine Software, die genau solche Manipulationen technisch erkennen soll. Und sie funktioniert. Das Problem ist nur: Der Markt dafür ist noch gar nicht richtig da. Und genau an diesem Punkt kommt Cross Innovation ins Spiel.
Ich bin Feline Klinger. Schön, dass ihr zuhört. Neue Impulse durch Cross Innovation. Ein Podcast in Kooperation mit dem Kreativbund. Für diese Folge habe ich mich mit Annika Gruner verabredet. Sie ist Mitgründerin von Neuramensa. 2025 nimmt das Startup an einem von insgesamt vier Cross Innovation Labs des Kreativbunds teil. Unternehmen und Organisationen bringen dafür eine konkrete Herausforderung mit.
Nach einem ersten Kick-off wird die Fragestellung geschärft, und anschließend werden Kreativschaffende aus ganz verschiedenen Bereichen dazu gematcht. Der Prozess läuft über drei Monate mit mehreren Terminen, Präsenz, aber auch digital. Dabei geht es erst darum, das Problem genauer zu verstehen. Dann um erste Ideen und schließlich auch darum, einzelne Ansätze wirklich auszuprobieren und umzusetzen.
Von Annika Gruner wollte ich wissen, wie sie diesen Prozess erlebt hat und wie der Blick von außen Neuramensa dabei geholfen hat, die eigene Technologie greifbarer zu machen. So, okay, damit bin ich durch mit diesem Chat und wir können starten. Bevor wir loslegen, muss sie auf ihrem Bildschirm erstmal ein bisschen Platz schaffen. Okay, schließen. Ich habe immer zwei Milliarden Tabs. Aber dann sind die Tabs zu und wir können anfangen.
Du hast 2024 mit deinem Co-Founder Anatol Mayer Neuramensa gegründet. Wie würdest du in zwei Sätzen erklären, was eure Software macht? Wir machen Defect Detection Software. Wir kommen aus der Multimedia-Forensik. Was bedeutet das? Es gibt heutzutage eben echte Fotos und es gibt KI-generierte, KI-manipulierte und klassisch manipulierte Fotos oder Bilder und Videos. Wir können anhand technischer Merkmale das eine vom anderen unterscheiden und das eben at scale, also massenhaft. Das hilft eben heute schon vielen Branchen und in Zukunft noch viel mehr.
Was war denn eure Motivation, Neuramensa zu gründen? Mein Co-Founder, der Anatol, hat in seiner Zeit als wissenschaftlicher Mitarbeiter an der Uni Erlangen eben in dem Bereich zu robusten KI-Verfahren geforscht und war damit seiner Zeit natürlich auch voraus. Und hat quasi das, was wir heute haben, schon eben vor sieben Jahren kommen sehen. Also das Thema fotorealistische Fakes mit KI massenhaft.
Und 2024 war so die Zeit, wo ChatGPT das ja 2022 released wurde und 2024 hat sich so durchgesetzt und war in aller Munde und überall. Und wir haben einfach gesagt, es braucht ein Korrektiv. Also wir werden massenhaft generativ KI einsetzen, die es hier zu studieren bleibt. Wir brauchen aber auch ein Korrektiv, um diese KI, sag ich mal, unter Kontrolle zu halten oder überhaupt eine Möglichkeit, das Ganze wieder zu kuratieren, was da draußen ist in der digitalen Welt.
Und wer war eure Zielgruppe? Also für wen habt ihr diese Software entwickelt? Ja, ursprünglich war natürlich die erste Idee: Oh, Desinformation. Und das ist auch heute ein wichtiger Faktor oder ein wichtiger Bereich. Und halt eben das Thema Faktenchecks und Verifikationen im Bereich Medien. Die Medien waren unsere ersten Kunden oder sind unsere ersten Kunden. Und wir haben dann festgestellt, unsere Technologie ist viel wichtiger noch für alles, wo Betrug massenhaft passiert.
Und das ist eben zum Beispiel im Bereich Versicherungen oder im Bereich Identitätsprüfung oder im Bereich HR, also im klassischen Bereich B2B im Business-Bereich. Da haben wir jetzt einige Use Cases identifiziert. Wir wollen ja vor allem über das Thema Cross Innovation sprechen, weil ihr mit Neuramensa 2025 an einem Cross Innovation Lab teilgenommen habt vom Kreativbund. Und dort wolltet ihr konkret eine Herausforderung oder ein Problem bearbeiten.
Mit welchem Problem seid ihr denn in dieses Lab gegangen? Genau, also es war so eine Mischung. Wir waren halt mitten im Fundraising als Startup und haben einerseits natürlich auch unsere Geschichte, unsere Marktmöglichkeiten untersuchen wollen, um eben Investoren auch entsprechend diese zu präsentieren. Und was sind Marktmöglichkeiten? Am Ende sind es Use Cases. Und am Ende ging es um die Frage, wer braucht unsere Technologie und wie können wir diese Menschen ansprechen und wie können wir diese Menschen auch auf das Problem aufmerksam machen, das es eigentlich da draußen gibt?
Du hast gesagt, der Markt war quasi noch nicht so richtig da oder dieses Problemverständnis. Das ist heute 2026 ziemlich schwer vorstellbar. Warum war das 2025 noch so? Ich denke, das hat zwei Seiten, das Thema. Das eine ist, dass wir tatsächlich noch nicht so gute KI-Bilder in der freien Öffentlichkeit gesehen haben. Man kann sich den Benchmark „Will Smith Eats Spaghetti“ anschauen zum Thema KI-Video. Und da sieht man eigentlich auch, wie die Entwicklung war.
Und letztes Jahr war tatsächlich auch noch viel Fehler im Bild, sodass man diese technische Lösung, die wir anbieten, vielleicht noch nicht so als notwendig erachtet hat. Und das andere ist tatsächlich auch immer wieder, oder auch weiterhin, die breite Masse war einfach noch nicht mit dem Problem der KI-Fakes in Berührung gekommen. Und tatsächlich hat sich das eben maßgeblich dieses Jahr im März geändert, als eben Bilder aus dem Iran-Krieg publiziert wurden. Und das war tatsächlich ein größerer Aufschrei. Und vielleicht auch was, wo dann erst klar wurde: Ah, okay, da kann was passieren. Aber das war halt nicht zum Zeitpunkt, wo das Lab stattgefunden hat.
Okay, mit dieser Herausforderung seid ihr also in dieses Lab gegangen. Was für Maßnahmen, Ideen oder Lösungen habt ihr euch dann im Vorfeld davon erhofft? Von dem Lab haben wir uns erhofft, dass wir vor allem eine Außenperspektive kriegen. Also für uns war ja selbstverständlich, wie KI sich entwickelt und was sie alles kann. Aber es ging ja auch darum zu gucken, was wissen denn Menschen, die nicht jeden Tag mit unserer Thematik zu tun haben, darüber.
Und wie können wir eben diesen Use Case für eben diese Menschen aufbereiten und da eben einen frischen, aber auch kreativen Blick drauf zu kriegen. Das war eigentlich so Hauptmotivation, einfach mal mit einer neuen Gruppe von Menschen auf dieses Problem oder dieses Thema zu schauen.
Ihr wurdet dann vom Kreativbund mit einer Digitalstrategin und einem Autor und Storyteller gematcht. Nimm uns gern mal mit, wie kann man sich dieses Lab so vorstellen? Was habt ihr da gemacht? Also es war für uns schon eine ziemliche Überraschung, weil wir quasi keinen Einfluss hatten. Wir wurden tatsächlich gematcht, also wie so eine Art Blind Date, und haben uns dann gegenseitig kennengelernt und auch gleich quasi angefangen, in Workshops zu gehen.
Und was ganz spannend war, war die Digitalstrategin hat eben mit uns zusammen auch ganz hands-on wirklich gearbeitet an Use Cases beziehungsweise dem ganzen Thema. Also bei uns waren es zwei Dinge: Wir haben so eine Map of Fear gebaut, wo es einfach um die Frage ging, welche emotionalen Triggerpunkte könnten Menschen denn haben, die unsere Technologie einsetzen.
Also was sind wir eigentlich? Sind wir ein Virenscanner? Müssen wir mit Angst vor dem nächsten großen Virus arbeiten in Anführungszeichen im Marketing? Oder sind wir eben eine Prävention? Also sind wir eher positiv besetzt? Das wollten wir halt auch, weil es auch als Marke für uns so sich richtig anfühlt. Ja, und da haben wir eben ganz viel zusammengearbeitet, sehr hands-on, und haben sehr, sehr viel Strategie aufs Papier gebracht und daraus dann auch so Einzelmaßnahmen abgeleitet.
Wie kann man sich das vorstellen? Also habt ihr ganz viele Post-its gesammelt? Was für Methoden habt ihr denn verwendet? Also wir haben tatsächlich auf einem virtuellen Board gearbeitet und tatsächlich wirklich relativ klassisch Post-its gesammelt, genau, und diese dann strukturiert und geclustert. Wir haben uns sowohl einmal physisch getroffen als auch eben virtuell und hatten da wirklich mehrere Austauschmeetings, wo wir eben dann wirklich ganz konkret dran weitergearbeitet haben.
Und wir haben dann eben neben unserer Map of Fear zum Beispiel auch noch eine Map of Motivation gebaut, also so das Gegenstück. Wenn ich aus Angst etwas kaufe, was würde mich denn positiv motivieren, um eben dieses Positive reinzubringen? Also wir haben uns auch überlegt, wie können wir eben dieses Problembewusstsein schaffen und haben eben so ein Awareness-Konzept uns überlegt, weil unser Thema ist natürlich durchaus auch so ein bisschen aktivistisch, würde ich sagen.
Also man kann natürlich auch sagen, das ganze Thema Desinformation hat eine politische Dimension. Und wir haben dann überlegt, wie können wir kreativ einen Ansatz bauen, wie man das eben öffentlichkeitswirksam darstellen kann, dass es eben auch wichtig ist, sich nicht von Fakes irgendwie beeinflussen zu lassen. Und da haben wir eben mit einer Künstlerin zusammengearbeitet, die uns über die Digitalstrategien vom Kreativbund nahegebracht wurde. Die kannten wir vorher nicht.
Was von diesen Ideen oder Ansätzen war denn für euch neu? Also haben die Kreativen etwas gesehen, gefragt oder vielleicht auch anders geframed, was ihr als KI-Startup so nicht gesehen habt oder auf das ihr vielleicht nicht gekommen wärt? Also ich meine, ich habe selber zehn Jahre vorher Marketing gemacht, deswegen bin ich schon auch jemand, der grundsätzlich kreative Ideen hat. Nichtsdestotrotz wäre ich nie auf die Idee gekommen, eine Lichtinstallation mit einer Künstlerin an ein Hochhaus zu projizieren, was wir dann am Ende ja gemacht haben und einmal zumindest als Testballon umgesetzt haben.
Und ich glaube, dass es mir nachhaltig auch eine andere Perspektive gebracht hat. Also wie ich vielleicht noch mal an Themen herangehe, wie ich vielleicht noch mal überlege, wie könnte ich denn eine Kampagne noch mal anders denken, noch mal anders machen?
Du hast jetzt schon die Lichtinstallation angesprochen. Ihr habt ja innerhalb dieses Labs auch an konkreten Lösungen gearbeitet, eben unter anderem diese Lichtinstallation. Kannst du uns beschreiben, was sich dahinter verbirgt? Genau, also wir haben im Prinzip ja eine Videoanimation gemacht oder die Künstlerin hat es erstellt mit Vorgaben von uns, wo man eben so eine Art Detektor sieht, der sich über so ein Bild legt von einer KI-generierten Person oder verschiedenen Gesichtern, um einfach so ein bisschen dieses Detektion oder das Detektieren zu visualisieren.
Weil das tatsächlich auch so ein Problem von uns immer ist: Unsere Technologie ist digital, eine Software. Und, sag ich mal, diesen Scanner, den man sich so vorstellt, der ist natürlich eigentlich nicht da. Das ist eine Visualisierung, um uns visuelle Wesen, die Arbeit sozusagen, sichtbar zu machen. Und das haben wir eben über diese Installation gemacht und haben dann eben das auf dem Hochhaus in Berlin projiziert, sodass quasi es in riesiger Dimension öffentlichkeitswirksam dort sichtbar wurde.
Und die ganze Kampagne hat einen Namen bekommen, das heißt We Fight Fakes. Wir haben dazu eben auch noch eine Webseite gemacht, wo man so einen Deepfake-Quiz machen kann. Ist heute auch noch online, also wefightfakes.org. Da kann man quasi sich selber testen, ob man Deepfakes erkennt oder KI erkennt mit bloßem Auge.
Das heißt, die zwei konkreten Ergebnisse dieses Labs waren die wefightfakes.org-Webseite und die Lichtinstallation. Genau, obwohl man auch sagen muss, die Lichtinstallation ist natürlich jetzt nicht dauerhaft irgendwo hin projiziert, also das geht gar nicht. Wir haben es einmal eben als Testballon in Berlin auch umgesetzt.
Das war auch gar nicht so unaufwendig, weil man braucht halt durchaus auch eine Genehmigung, zum Beispiel, dass man das machen darf. Und wir könnten jetzt jederzeit wieder auf die Künstlerin zurückgreifen und so eine Installation machen, wenn wir zum Beispiel ein Event hätten oder eine Messe, wo wir die Erlaubnis kriegen oder wo wir eben die Möglichkeit hätten, zum Beispiel mal so eine Wand zu bespielen. Das war ein Proof of Concept.
Aber es ist jetzt gerade in unserer jetzigen Phase, weil sich ja so schnell so viel verändert beim Startup, auch nicht unbedingt super relevant, das jetzt noch mal aufzugreifen momentan. Gab es auch Ansätze, die für euch zu abstrakt waren oder vielleicht für euer Business nicht anschlussfähig genug? Jein, also das, wo wir jetzt nicht so aktiv weiter draufgegangen sind, war die Zusammenarbeit mit dem Autor. Das lag aber nicht an dem Autor, sondern es lag einfach daran, dass es noch mal eine neue Ebene war, das Thema Narrative zu entwickeln, was wir jetzt in der Kürze der Zeit – ich meine, das Lab geht auch nur drei Monate – was einfach in der Kürze der Zeit nicht möglich war.
Von daher haben wir da bestimmt Potenzial liegen lassen, was wir vielleicht in einem anderen Zeitrahmen noch hätten besser ausbauen können, so würde ich sagen. Noch mal zugespitzt gefragt: Wenn du mit diesem Abstand, den du jetzt hast, auf das Lab schaust, was war hilfreich an diesem Blick von außen und hat euch wirklich geholfen? Und was nutzt ihr davon heute noch?
Also grundsätzlich eben die Perspektiven, die haben wir mitgenommen. Und wir haben auch die Website Refairfax nutzen wir ganz viel, tatsächlich einfach für die Öffentlichkeitsarbeit. Wir haben mittlerweile erfolgreich unsere Finanzierungsrunde abgeschlossen. Wir sind natürlich jetzt ganz stark im Skalierungsfokus und Go-to-Market kommt dann auch. Aber es muss halt alles seine Zeit haben.
Wir haben natürlich auch im Hintergrund unsere ganzen Use Cases, die wir ausgearbeitet haben, die wir jetzt Stück für Stück angehen können. Also viel, sage ich mal, im Hintergrund was wir mitnehmen. Du hast gerade die verschiedenen Use Cases, die ihr Stück für Stück angehen wollt, genannt. Kannst du noch mal sagen, was damit gemeint ist beziehungsweise was ihr da erarbeitet habt?
Ja, im Prinzip die ganzen Bereiche, wo Menschen emotional werden. Dann geht es zum Beispiel um Love Scam, da geht es um Scham, da geht es um die Frage, wie kann ich denn Menschen erreichen, denen das ja eh schon hochnotpeinlich ist oder die vielleicht auch gar nicht wollen, dass es aufgedeckt wird, dass da irgendjemand sie abzieht.
Also das ist eine sehr komplexe Gefühlsgemengelage und da haben wir einen sehr umfassenden Blick drauf gewonnen, um dann auch zu überlegen: Okay, wir müssen vielleicht um die Ecke denken, um diese Menschen zu erreichen. Das ist heute nicht reell für uns gerade Phase, weil wir eben mit B2B starten, aber grundsätzlich ist es was, was auf jeden Fall eines Tages kommt. Und dafür haben wir jetzt eben schon die Grundlagenforschung in Anführungszeichen dargelegt.
Du hast gerade auch gesagt, dass ihr die Finanzierungsrunde erfolgreich gemeistert habt. Inwiefern hat denn dieses Cross Innovation Lab euch geholfen, die Relevanz eurer Technologie besser zu vermitteln und eben auch vielleicht neue Zielgruppen oder neue InvestorInnen zu erreichen? Ja, also man muss dazu sagen, als das Innovation Lab gestartet hat, waren wir in unserer Finanzierungsrunde schon relativ weit. Und es war vieles, sag ich mal, parallel und nicht aufeinander aufbauend.
Deshalb man auch die Effekte darauf jetzt nicht so extrem nachweisen kann. Und jede Arbeit bedingt sich irgendwie. Also wenn ich ein besseres Verständnis für meine Use Cases bekomme, kann ich auch ein besseres Pitch Deck bauen, wo ich wieder besser Investoren mit überzeugen kann. Von daher, ich kann jetzt nicht genau kausal sagen, das führte zu dem oder das hat darauf eingezahlt. Aber alles in allem hat es insgesamt zu einer positiven Weiterentwicklung geführt, so würde ich sagen.
Wir haben jetzt viel über eure Erfahrungen als Neuramensa mit dem Thema Cross Innovation und dem Cross Innovation Lab gesprochen. Wenn du noch mal bei so einem Lab teilnehmen würdest, was wären Voraussetzungen, damit das für dich gut funktioniert? Voraussetzungen beim erneuten Teilnehmen eines solchen Labs wären für mich, dass ich ein bisschen mehr Einfluss darauf habe, mit wem ich vielleicht gematcht werde. Die lag eben, wie gesagt, nicht an den Individuen, mit uns gematcht.
Das war mir vielleicht im Vorfeld zu wenig bewusst, wie viele Potenziale ich hier auch haben könnte. Und vielleicht hätte ich lieber mit einem Game Studio zusammengearbeitet, wenn das möglich gewesen wäre. Weil tatsächlich dieses Gaming-Thema, Gamifizierung und Pricing, ist gerade was, wo wir uns jetzt heute mit beschäftigen, wo uns vielleicht auch schon damals gut getan hätte, wo vielleicht auch ein tolles Potenzial aufgegangen wäre.
Aber alles in allem fand ich es auch toll, vielleicht mal so ganz offen, ganz frei und ganz, ja, eben da einfach ganz unbedarft drauf zuzugehen. Für Annika Gruner wäre also mehr Einfluss auf das Matching entscheidend. Aber wie kommt so ein Matching überhaupt zustande?
Zumindest bei den Cross Innovation Labs 2025 haben die Unternehmen nicht selbst aus einer Liste von Kreativschaffenden ausgewählt. Mein Name ist Christoph Brosius und ich bin Case Facilitator und beschäftige mich durchgehend wahnsinnig gerne mit crosssektoraler Innovation. Christoph Brosius hat die Labs 2025 begleitet und war dabei auch am Matching beteiligt.
Also an der Frage, welche Kreativen mit welchen Unternehmen zusammengebracht werden. In dem Jahr war der Versuchsaufbau einer der sehr stark durch so eine kuratierende Person geprägt war, wie mich. Bei Neuramensa, wie bei allen anderen Teams, haben wir sehr genau versucht hinzuhören und hinzugucken, was jeweils zu diesem Zeitpunkt bestmöglich hilfreich sein kann.
Und das war am Anfang erst mal eine Klärung der emotionalen Ansprache und der dazu passenden Narrative sowohl für B2B als auch für B2C-Ansprachen. Und daraus ist dann erst der Bedarf oder die Idee entstanden, dass man ja auch was interaktiv Spielersches anbieten könnte, um Menschen in diesem B2C-Kontext zu aktivieren und zu fragen: Hey, habt ihr Lust, euch überhaupt mal mit der Frage zu beschäftigen, ob irgendwas echt ist oder nicht echt ist, damit die Sensibilität steigen kann dafür, dass man ein Service wie den von Neuramensa gut nutzen kann.
Das Gaming-Thema wird aus Christoph Brosius‘ Sicht also erst im Laufe des Labs zu einem konkreten Bedarf. Und genau daran zeigt sich auch eine Schwierigkeit solcher Prozesse. Welche Expertise ein Team braucht, kann sich im Prozess verändern. Gleichzeitig sind Zeit und Budget in so einem Lab begrenzt, sodass man nicht auf jeden Bedarf eingehen kann.
Spricht aber total dafür, dass man es iterativ angeht und vielleicht das Team, das von außen kommt, gar nicht festnagelt, sondern immer wieder auch hinterfragt und anpasst an die sich verändernden Bedarfe. Wenn ich Fortschritt habe im Projekt und dann besser weiß, was ich brauche und was ich machen möchte.
Manchmal ist das Lab also eher eine Art erster Anstoß und einzelne Ideen oder nächste Schritte müssen danach vom Unternehmen selbst weiterverfolgt werden.
Letzte Frage zum Abschluss: Was glaubst du, warum Cross Innovation Prozesse vor allem für Start-ups spannend sein könnten? Cross Innovation Prozesse sind für Start-ups vor allem deswegen spannend, weil die ähnlich funktionieren wie das Start-up an sich. Also Cross Innovation definiert für mich schon eine große Dynamik, eine große Offenheit, eine große Trial-and-Error-, Make-or-Break-Thematik.
Und das ist ja so, wie ein Start-up eigentlich auch arbeitet, weshalb man da natürlich sehr schnell zu sehr umtriebigen Ergebnissen kommen kann und vielleicht auch auf viel Experimentierfreude trifft, was dann vielleicht eben wirklich zu außergewöhnlichen Lösungen führt. Also ich kann mir schon gut vorstellen, dass es für Start-ups eine super Sache ist.
Sehr gut. Annika, vielen Dank, dass du deine Erfahrungen mit uns geteilt hast und danke für das Gespräch. Vielen Dank auch für die Einladung.
Bei Neuramensa hat Cross Innovation also vor allem den Blick auf das eigene Problem verändert. Aus einer technischen Frage, wie erkennt man manipulierte Bilder und Videos, wurde auch die Frage, wie macht man diese Technologie für andere überhaupt sichtbar und verständlich. Daraus sind unter anderem die Website WeFightFakes, eine künstlerische Lichtinstallation und neue Ideen für mögliche Use Cases entstanden.
Gleichzeitig zeigt der Case aber auch, so ein Prozess ist kein Selbstläufer. Nicht jede Idee lässt sich weiterführen, nicht jede Wirkung eindeutig messen und auch beim Matching kann es unterschiedliche Vorstellungen davon geben, welche Expertise gerade die richtige ist. Vielleicht liegt aber auch genau darin die Herausforderung von Cross Innovation: Sich auf andere Perspektiven einzulassen und gleichzeitig dafür zu sorgen, dass daraus etwas entsteht, das zum Unternehmen passt und sich auch nach dem Lab weiterverfolgen lässt.
Das war’s für diese Folge von Machen statt Quatschen. Danke fürs Zuhören und wenn ihr wollt, bis nächste Woche. Skript, Recherche und Moderation dieser Folge kamen von mir, Feline Klinger. Redaktionell unterstützt hat mich Stefan Ziegert. Das Sounddesign kommt von Benjamin Serdani. Produziert hat die Folge Paula Bültermann. Untertitel der Amara.org Community.
Foto: Cindy Ngo