Większość incydentów związanych ze sztuczną inteligencją nie wynika z jednego, katastrofalnego zdarzenia. Pochodzą z łańcucha drobnych pomyłek, których nikt nie zapisuje w trakcie ich wystąpienia.

Uczenie się pasywne to brakujący mięsień. Otrzymujesz je tylko wtedy, gdy każde zdarzenie pozostawia po sobie artefakty, które można łatwo znaleźć, porównać i ponownie wykorzystać.

Pięć elementów przydatnej sekcji zwłok w epoce sztucznej inteligencji

Uczenie się pasywne to system, a nie spotkanie

Stwierdzenie „wyciągnęliśmy z tego wnioski” jest prawdziwe tylko wtedy, gdy nauka przetrwa zmiany personalne i czas.

Praktyczna pętla pasywnego uczenia się: przechwytuj oś czasu, migawkowe stany awarii i skorygowanych obok siebie, klasyfikuj wzorzec awarii, dołącz jeden obowiązkowy mechanizm zapobiegania i weryfikuj ten mechanizm przy następnej podobnej zmianie.

Jak wyglądają sekcje zwłok dojrzałej sztucznej inteligencji

Dojrzałe zespoły traktują dowody incydentów jako artefakt najwyższej klasy, a nie zadanie porządkowe. Odróżniają błąd modelu od błędu procesu ludzkiego. Szybko promują powtarzające się awarie w zautomatyzowanych bramach.

Kiedy brakuje jednego elementu pośmiertnego, sekcja zwłok staje się fikcją historyczną. Poniższe powtarzające się wzorce pojawiają się wielokrotnie w zespołach i dostawcach usług w chmurze.

Zbuduj bibliotekę pośmiertną, z której faktycznie korzystają programiści

Jeśli znalezienie wcześniejszych incydentów zajmie więcej czasu niż odtworzenie błędu, nikt nie będzie zaglądał do archiwum.

Użyteczna biblioteka obsługuje wyszukiwanie według wzorca awarii, krótkie sekcje „co skopiować” z gotowymi do użycia kontrolami, łączami z elementów Runbook i szablonami PR oraz warunek zamknięcia, który potwierdza, że ​​zapobieganie wylądowało w narzędziach.

Praktyczny zestaw startowy dla zespołów

• Szablon sekcji zwłok, który wymaga linków do dowodów.
• Taksonomia zawierająca mniej niż 12 wzorców awarii.
• Polityka mówiąca, że ​​każdy incydent musi skutkować jednym działaniem zapobiegawczym.
• Comiesięczne skanowanie pod kątem częstotliwości powtarzających się wzorców.
• Lekka recenzja jakości, która pozwala wycofać nieaktualne lekcje.