Forschung

Wie sich das Verhalten von ChatGPT im Laufe der…

Die Forschungspapierstudie “Wie sich das Verhalten von ChatGPT im Laufe der Zeit ändert?” untersucht die Veränderungen im Verhalten von GPT-3.5 und GPT-4, zwei weit...
Stöckl Andreas
2 min read

Wie Sprachmodelle lange Kontexte nutzen: Erkenntnisse und Grenzen

Sprachmodelle haben in den letzten Jahren enorme Fortschritte gemacht und können nun auch längere Kontexte als Eingabe verarbeiten. Doch wie gut nutzen diese Modelle...
Stöckl Andreas
2 min read

Skalierung der Sequenzlänge: Die Vorteile und Grenzen von LONGNET

Die Schlüsselinnovation in LONGNET ist die Einführung von dilatierter Aufmerksamkeit, einem neuartigen Aufmerksamkeitsmechanismus, der das Aufmerksamkeitsfeld exponentiell erweitert, wenn der Abstand zwischen den Tokens...
Stöckl Andreas
2 min read

Auswirkungen hochwertiger Daten auf die Leistung großer Sprachmodelle (LLMs)

Die Forscher stellten ein neues LLM namens phi-1 vor, das ein Transformer-basiertes Modell mit 1,3 Milliarden Parametern ist. Der Trainingsprozess umfasste zwei Hauptschritte: Pretraining...
Stöckl Andreas
2 min read

Erforschung der Folgen und Schlüsselfaktoren der Wiederholung von Pre-Trainingsdaten…

In der Welt der künstlichen Intelligenz sind große Sprachmodelle (LLMs) aufgrund ihrer Fähigkeit, menschenähnlichen Text zu verstehen und zu generieren, immer beliebter geworden. Da...
Stöckl Andreas
2 min read

Best Paper Award auf der “IntelliSys 2022”

Auf der internationales Konferenz “Intelligent Systems (IntelliSys) 2022” (https://saiconference.com/IntelliSys), die sich auf den Bereich der künstlichen Intelligenz und deren Anwendung in der realen Welt...
Stöckl Andreas
37 sec read

Projektpräsentation auf der EU- Safety Konferenz 2022 in Wien

Im Rahmen der “EU Safety Konferenz” (https://www.eu-safety2022.com/) in Wien durfte ich eine Keynote zu einem aktuellen Projekt halten. Um das Potenzial künstlicher Intelligenz im...
Stöckl Andreas
25 sec read

Automatisierte Artikelerstellung mit KI

Es gibt eine Vielzahl von KI-Tools zur Texterstellung, die zur automatischen Erstellung von Inhalten verwendet werden können. Die Anwendungsfälle sind unterschiedlich, aber in der...
Stöckl Andreas
20 sec read

Media Futures Summit 2021

Das Department Digitale Medien der FH OÖ Campus Hagenberg lädt zum 1. Media Futures Summit am Donnerstag, 4. November 2021 von 14-18 Uhr ein. Die neue Veranstaltungsreihe in Kooperation mit...
Stöckl Andreas
1 min read

Codegenerierung für Data Science Analysen

Das von Open AI veröffentlichte “Codex”-Sprachmodell” zur Generierung von Programmcode wurde in letzter Zeit mit großem Interesse in den Fach-Medien betrachtet, und in vielen...
Stöckl Andreas
56 sec read