Sprache trainieren
Wie wir Menschen so muss auch eine Software Sprache zunächst lernen. Dabei werde sie mit etwa einhundertmal so vielen Texten trainiert, wie ein Mensch in seinem Leben lesen könne, erklärt Gerhard Paaß vom Fraunhofer Institut für Intelligente Analyse- und Informationssysteme. Anhand dieser Trainingstexte kann die Software dann errechnen, welches Wort mit hoher Wahrscheinlichkeit auf ein Wort folgen wird und so eigene Texte erstellen. Damit die Wahrscheinlichkeit berechnet werden kann, werden Wörter mit Vektoren dargestellt. Wörter mit ähnlicher Bedeutung bekommen einen ähnlichen Vektor. Durch diesen Unterbau funktionieren Sprachmodelle wie GPT-3 von Open AI.
Kreative und emphatische KI
Kreativität gilt eigentlich als eine sehr menschliche Eigenschaft. Mittlerweile ist die Entwicklung von Sprachmodellen allerdings so weit, dass eine künstliche Intelligenz auch Romane schreiben oder Musik komponieren kann.
In unserem Gehirn sind ja auch Verbindungen dafür verantwortlich, dass wir uns Geschichten ausdenken können. Insofern kann auch ein Sprachmodell entlang einer Storyline eine Geschichte erzeugen oder sich selbst eine Geschichte ausdenken.
Gerhard Paaß, Fraunhofer IAIS
Auch eine ganze Spielewelt erschaffen, wie im Textadventure-Spiel „AI Dungeon“, ist für eine KI kein Problem mehr. In Sprachassistenten sorgen Algorithmen dafür, dass sie immer menschlicher klingen und auch emphatische Gespräche führen können.
detektor.fm-Moderatorin Anja Bolle spricht mit dem Mathematiker und Buchautor Gerhard Paaß vom Fraunhofer IAIS über die Einsatzmöglichkeiten von intelligenten Sprachsystemen und die Entwicklung von Sprachmodellen. Das Fraunhofer IAIS ist auch an den Forschungen zu einem europäischen Sprachmodell beteiligt, das zukünftig über die europäische Cloud Gaia-X bereitgestellt werden soll.