Kiedy nie używać agenta AI (i co zbudować zamiast niego)
Budujemy agentów zawodowo i właśnie dlatego istnieje ta strona. Najszybszy sposób, by nadszarpnąć zaufanie zespołu do tej technologii, to postawić agenta przy zadaniu, które go nie potrzebowało, patrzeć, jak trafia w 94% tam, gdzie skrypt trafiał w 100%, i przez kwartał go bronić.
Poniżej sześć sytuacji, w których mówimy nie, i to, co sugerujemy zamiast tego.
1. Kroki nigdy się nie zmieniają#
Jeśli kolejność jest stała — pobierz plik, sprawdź kolumny, przekształć, załaduj, powiadom — nic nie musi decydować o następnym kroku, bo nic nie decyduje. Napiszcie potok. Jeśli jeden krok wymaga oceny, wywołajcie model dla tego kroku i resztę zostawcie deterministyczną.
To najczęstsza nadbudowa, jaką widzimy. Wywołanie modelu w potoku nie jest czymś gorszym od agenta; jest właściwą rzeczą.
2. Zadanie to arytmetyka albo dokładne dopasowanie#
Sumy, uzgodnienia, podatki, reguły uprawnień z opublikowanymi progami: mają poprawne odpowiedzi i istniejące implementacje. Model potrafi pięknie wyjaśnić wyliczenie i mimo to od czasu do czasu się pomylić, a w finansach od czasu do czasu to katastrofa.
3. Budżet opóźnienia poniżej sekundy#
Agent, który planuje, wywołuje dwa narzędzia i odpowiada, nie zrobi tego niezawodnie poniżej sekundy. W koszyku, w wyszukiwaniu podczas pisania albo przy kierowaniu połączeń — zdejmijcie pracę ze ścieżki krytycznej albo użyjcie klasyfikatora i zapytania.
4. Nikt nie potrafi powiedzieć, jak wygląda poprawny przebieg#
Jeśli zespół nie potrafi dostarczyć dwudziestu przykładów dobrze wykonanego zadania, nie macie zestawu ewaluacyjnego — a bez niego nie da się wiedzieć, czy zmiana pomogła.
Dwadzieścia oznaczonych przykładów to celowo niska poprzeczka.
5. Każde działanie jest nieodwracalne i cenne#
Przelewy, podpisy umów, usunięcia na produkcji. Możecie postawić przed nimi agenta — jako redaktora, który zbiera sprawę i przekazuje ją człowiekowi. Czego nie należy robić: dawać autonomicznej pętli nienadzorowanego prawa zapisu na czymś nieodwracalnym.
6. Potrzebne dane są niedostępne#
Agent jest tak dobry jak jego narzędzia, a narzędzia jak wasze API. Jeśli informacja żyje w systemie bez API do odczytu albo w arkuszu edytowanym ręcznie przez trzy osoby, agentowi zostanie zgadywanie. Najpierw naprawcie dostęp.
Najczęstsze pytania
Kiedy więc agent jest właściwym narzędziem?
Gdy następny krok naprawdę zależy od tego, co zwrócił poprzedni, gdy może być potrzebnych kilka narzędzi w kolejności nie do ustalenia z góry, i gdy dziś człowiek robi to, sprawdzając i decydując.
Mamy już agenta na stałym potoku. Wyrzucić?
Niekoniecznie — najpierw zmierzcie. Jeśli działa niezawodnie i koszt jest akceptowalny, zostawcie.
Czy agent może być częścią systemu deterministycznego?
Tak, i często to najlepszy projekt. Trzymajcie kręgosłup deterministyczny i dajcie agentowi jeden ograniczony obszar.
kiedy nie używać agenta aiagent czy przepływgranice automatyzacji llmzakres projektu aialternatywy dla agentów
