Relacja z webinaru #6 Wiktora Bajora dla AI Now Polska – AI w świecie rzeczywistym

13 października na AI NOW Polska Webinar #6 wystąpił nasz Robotics Engineer Wiktor Bajor. W seminarium wzięli udział również Paweł Kiszczak i Maciej Słowik z Akamai. Każdy z nich mówił o czymś innym, a jednak wszystkie trzy wystąpienia krążyły wokół tego samego: co się dzieje, kiedy AI wychodzi z laboratorium.

 

Przyjrzyjmy się nim więc jeden po drugim.

Lokalne LLM-y: kiedy naprawdę się opłacają?

Webinar otworzył Paweł Kiszczak, inżynier AI/ML i współtwórca modelu Bielik-Minitron-7B. Lokalne modele językowe kuszą: dane nie opuszczają firmy, odpowiedzi przychodzą szybko, a rachunek za API znika. Paweł pokazał jednak drugą stronę medalu. Uruchomienie modelu w Ollama czy vLLM zajmuje chwilę, a potem zaczyna się utrzymanie, które potrafi zjeść wszystkie oszczędności. Z jego wystąpienia wyłoniła się konkretna mapa: gdzie lokalny model się broni, a gdzie lepiej zostać przy chmurze.

Sam Bielik-Minitron dobrze pokazuje, dlaczego lokalne wdrożenia w ogóle stały się realne. Powstał metodą Minitron: z większego modelu wycina się zbędne fragmenty sieci, a okrojona wersja uczy się od oryginału (to tzw. destylacja wiedzy). W efekcie powstaje mniejszy model, który da się uruchomić na znacznie skromniejszym sprzęcie.

Sim2real: od 0% do 80% skuteczności robota

Potem przyszła kolej na robotykę. Roboty łatwo i tanio trenuje się w symulacji, ale prawdziwy świat ma inne światło, inne tarcie i czujniki, które szumią. Model, który w symulacji radzi sobie świetnie, na prawdziwym sprzęcie potrafi się kompletnie pogubić. Wiktor opowiedział, jak podeszliśmy do tego problemu w xBerry:

„Na AI Now Polska – webinar #6 pokazaliśmy, jak nauczyć robota złapać piłkę i odłożyć ją do miski bez godzin ręcznego nagrywania. Wykorzystaliśmy NVIDIA GR00T N1.7 i co-trening, czyli uczenie jednocześnie na danych z symulacji i z prawdziwego robota.

 

Sama symulacja (1000 epizodów) dała 0% skuteczności. Po dodaniu 5 epizodów z realnego robota było 33%, a po dodaniu 50 aż 80%. Wniosek: garść danych z prawdziwego świata daje więcej niż sama skala symulacji.”

 

Wiktor Bajor, Robotics Engineer, xBerry

GR00T N1.7 to otwarty model NVIDII typu vision-language-action: patrzy przez kamerę, rozumie polecenie i zamienia je na ruch robota.

Przepaść między symulacją a rzeczywistością robotycy znają od lat. Jedną z klasycznych odpowiedzi jest domain randomization (Tobin i in., 2017): w symulacji celowo miesza się oświetlenie, tekstury i inne parametry, żeby model nie przywiązał się do jednej wersji świata. Co-trening odwraca tę logikę. Zamiast budować coraz doskonalszą symulację, dokłada do niej odrobinę prawdziwych danych.

Jeśli ciekawi was, jak uczymy roboty nowych zadań od podstaw, zajrzyjcie do naszej serii xBerry Robotic Arm. W pierwszej części opisujemy, jak ramiona SO-101 uczą się przez naśladowanie: Zbieramy 90 epizodów treningowych do uczenia przez naśladowanie.

Agent AI potrzebuje uprzęży

Na koniec Maciej Słowik z Akamai wrócił do świata oprogramowania, ale z bardzo podobnym przesłaniem. Chatbot, który się pomyli, napisze głupstwo. Agent, który się pomyli, może coś usunąć, wysłać albo kupić. Dlatego Maciej mówił o harness engineering, czyli o budowaniu wokół modelu warstw kontroli: walidacji, izolacji i nadzoru człowieka tam, gdzie decyzja ma realne skutki. Przeszedł też przez konkretne zagrożenia, od prompt injection, przez bezpieczeństwo narzędzi podłączanych przez MCP, po agentów z większymi uprawnieniami, niż naprawdę potrzebują.

To nie są teoretyczne obawy. Prompt injection otwiera branżową listę OWASP Top 10 for LLM Applications, a zbyt duża swoboda agentów (excessive agency) ma tam własną kategorię.

Model to nie wszystko

Tak brzmiał tytuł wystąpienia Macieja, ale równie dobrze mógłby to być tytuł całego webinaru. Lokalny serwer, system firmowy czy robot na hali: wszędzie o efekcie decyduje to, co zbudujemy wokół modelu. W xBerry tworzymy rozwiązania z wykorzystaniem Physical AI, więc właśnie ten styk modelu z prawdziwym sprzętem zajmuje nas na co dzień.

Dziękujemy organizatorom i prelegentom za świetne spotkanie.

Poniżej możesz obejrzeć nagrania z wystąpień Pawła i Macieja:

• Paweł Kiszczak: Lokalne LLMy na produkcji. Gdzie stosować lokalne modele AI?
• Maciej Słowik: Jak zbudować harness, który czyni agenta AI bezpiecznym i godnym zaufania?

FAQ

O czym był AI NOW Polska Webinar #6?

Webinar dotyczył wdrażania AI w praktyce: lokalnych modeli językowych na produkcji, sim2real w robotyce i bezpieczeństwa agentów AI.

Czym jest sim2real?

Sim2real to przeniesienie modelu AI wytrenowanego w symulacji na prawdziwego robota.

Czym jest harness engineering?

To projektowanie warstw kontroli wokół modelu AI, takich jak walidacja, izolacja i nadzór człowieka, dzięki którym agent działa przewidywalnie i bezpiecznie.

Gdzie obejrzeć nagrania z webinaru?

Nagrania wszystkich trzech wystąpień są bezpłatnie dostępne na kanale AI Now Polska na YouTube.