Założenie
Większość wdrożeń LLM w przedsiębiorstwach jest dekoracyjna. Interfejs czatu przyklejony do repozytorium dokumentów — zadaj pytanie, skopiuj odpowiedź, powtórz. Przydatne, ale to nie jest automatyzacja.
Buduję coś innego: LLM jako komponenty operacyjne, które przyjmują ustrukturyzowane dane wejściowe, stosują logikę biznesową i zwracają wyniki trafiające bezpośrednio do potoków. Żadnego człowieka w pętli dla rutynowych decyzji. Żadnego wrappera chatbota.
Kluczowa obserwacja
Modele językowe działają znacznie lepiej, gdy otrzymują jawny model kontekstu organizacyjnego, w którym operują.
Każda organizacja ma słownictwo, hierarchię i zestaw niepisanych reguł dotyczących tego, co oznacza „poprawny" wynik. Generyczne prompty dają generyczne wyniki. Prompty osadzone w wiedzy instytucjonalnej dają coś bliższego juniorskiemu specjaliście.
Co zbudowałem
Agenty wczytywania dokumentów
Własne wrappery LLM do przetwarzania nieustrukturyzowanej dokumentacji przedsiębiorstwa — polityki wewnętrzne, reguły rotacji zmian, raporty operacyjne. Agent czyta, identyfikuje struktury logiczne i generuje znormalizowany JSON dla dalszych potoków.
Potoki strukturyzowanego wnioskowania
Wieloetapowe potoki, gdzie LLM działa jako silnik logiczny: biorąc pod uwagę zestaw ograniczeń, ocenia przypadki i zwraca ustrukturyzowaną decyzję z uzasadnieniem.
Kluczowa decyzja architektoniczna: oddzielenie wnioskowania od formatowania. Prompt, który każe „zanalizuj TO i sformatuj jako JSON", pogarsza oba wyniki. Dwa prompty — jeden do analizy, jeden do ekstrakcji — dają znacznie lepsze efekty.
Status
Aktywne badania i osobista eksploracja. Projekt Lakehouse WFM i praca w studiu zostały ukształtowane przez to, czego się tu nauczyłem.