Beliebte Suchanfragen

Cloud Native

DevOps

IT-Security

Agile Methoden

Java

Hamburger Menu
//

Demokratisierung großer Sprachmodelle

Das IoT Hessen Meetup präsentiert am 16.5.24 einen Talk von Lothar Wieske.

Das pubertierende IoT-Projekt // Spatial IoT Data

16.5.2024

Frankfurt a. M.

//

Details

Der Vortrag ist dreiteilig angelegt. Im ersten Teil werden wir uns die Entwicklung im letzten Jahr getrieben durch die Architekturstile Attention und Diffusion mit der zunehmenden Verlagerung auf kleinere und offenere Modelle anschauen.

Im zweiten Teil werden wir genauer nachrechnen, wo eigentlich die Parameter in Transformer-Architekturen (Attention) stecken und was das für die Auslegung von Anzahlen und Größen von CPUs und GPUs bei Training und Inferenz bedeutet.

Im dritten Teil werden wir die technologische Entwicklung bei Grafikkarten – oder allgemeiner Beschleunigern – nachzeichnen, beim Platzhirsch NVIDIA (insbesondere auch Blackwell der aktuellen GTC 2024), aber auch bei AMD und bei großen Cloud Providern. Und im vierten Teil wird in einer kleine Praxisdemo gezeigt, wie Demokratisierung durch kleinere und offenere Modelle die Möglichkeiten von Generative AI einfacher, schneller und breiter verfügbar macht.

//

Gemeinsam bessere Projekte umsetzen.

Wir helfen deinem Unternehmen.

Du stehst vor einer großen IT-Herausforderung? Wir sorgen für eine maßgeschneiderte Unterstützung. Informiere dich jetzt.

Hilf uns, noch besser zu werden.

Wir sind immer auf der Suche nach neuen Talenten. Auch für dich ist die passende Stelle dabei.