Yapay Zeka Odaklı Postmortemler ve Pasif Öğrenme
Yapay Zeka Takımları Neden Aynı Hataları Tekrar Ediyor
Yapay zeka vakalarının çoğu tek bir yıkıcı olaydan kaynaklanmıyor. Bunlar olurken kimsenin yazmadığı küçük kayıplar zincirinden geliyorlar.
Pasif öğrenme eksik kastır. Bunu ancak her olay arkasında bulunması, karşılaştırılması ve yeniden kullanılması kolay eserler bıraktığında anlarsınız.
Yararlı bir Yapay Zeka Çağı Ölüm Sonrasının Beş Unsuru
| Element | Ne Yakalanmalı? | Neden Önemlidir? |
|---|---|---|
| Trigger | Sorunu açığa çıkaran tam kullanıcı yolu, istemi veya işlemi | Geriye dönüp bakılan hikaye anlatımını ortadan kaldırır |
| Gözlemlenen davranış | Günlükler, izler, ekran görüntüleri ve başarısız kontroller | Bellek kaymasını önler |
| Karar kaydı | Neler düşünüldü, reddedildi ve kabul edildi? | Takasları görünür kılar |
| İyileştirme kanıtı | Seçilen düzeltmenin daha önce başarısız olan koşullarda çalıştığının kanıtı | 'Teoride sabit' iddiaları durdurur |
| Korkuluk güncellemesi | Yeni test, tüy bırakmama kuralı, runbook adımı veya ilke kapısı | Bir kerelik acıyı tekrarlanabilir korumaya dönüştürür |
Pasif Öğrenme Bir Toplantı Değil, Bir Sistemdir
'Bundan öğrendik' ifadesi ancak öğrenmenin personel değişikliğine ve zamana dayanması durumunda doğrudur.
Pratik bir pasif öğrenme döngüsü: bir zaman çizelgesi yakalayın, arızaların anlık görüntüsünü ve düzeltilmiş durumları yan yana yakalayın, arıza modelini sınıflandırın, zorunlu bir önleme mekanizması ekleyin ve bir sonraki benzer değişiklikte bu mekanizmayı doğrulayın.
Olgun Yapay Zeka Ölüm Sonrası Nasıl Görünüyor?
Olgun ekipler olay kanıtlarını bir temizleme işi olarak değil, birinci sınıf bir eser olarak ele alır. Model hatasını insan süreç hatasından ayırırlar. Otomatik kapılarda yinelenen arızaları hızlı bir şekilde teşvik ederler.
Ölüm sonrası unsurlardan biri eksik olduğunda, ölüm sonrası olay tarihsel kurguya dönüşür. Aşağıdaki yinelenen modeller ekipler ve bulut sağlayıcıları arasında tekrar tekrar karşımıza çıkıyor.
| Pattern | Symptom | Ana neden | Güçlü Karşı Tedbir |
|---|---|---|---|
| Hızlı kapsam sızıntısı | Yapay zeka, dosyaları amaçlanan sınırların dışında değiştirir | Gevşek görev çerçevesi ve zayıf inceleme yüzeyi | Kapsamlı fark kontrolleri ve açık dosya izin verilenler listeleri |
| Yanlış yeşil testler | CI başarılı ancak davranış yanlış | İddialar sonuçları değil, uygulama ayrıntılarını test eder | Sözleşme düzeyindeki iddialar ve ilk arıza kontrolleri |
| Güvenli olmayan geri dönüş mantığı | Sessiz geri dönüş hataları gizler | Gözlemlenebilirlik olmadan şubeleri 'çalıştırmaya devam edin' | Yapılandırılmış hata bütçeleri ve zorunlu telemetri |
| Birleşmeden sonra sürüklenme | Kod tabanı kalitesi günler sonra geriliyor | İlke veya belge senkronizasyonu olmadan birleştirme sorununu düzeltin | Birleştirme sonrası doğrulama artı dokümanlar geçidi |
Geliştiricilerin Gerçekten Kullandığı Bir Ölüm Sonrası Kütüphane Oluşturun
Önceki olayları bulmak, hatayı yeniden oluşturmaktan daha uzun sürüyorsa, hiç kimse arşive başvurmayacaktır.
Kullanılabilir bir kitaplık, arıza modeline göre aramayı, kullanıma hazır kontroller içeren kısa 'ne kopyalanmalı' bölümlerini, runbook'lardan ve PR şablonlarından bağlantıları ve araçlara gelen önlemeyi doğrulayan bir kapatma koşulunu destekler.
Takımlar İçin Pratik Bir Başlangıç Seti
- Kanıt bağlantıları gerektiren bir ölüm sonrası şablonu.
- 12'den az başarısızlık modeli içeren bir sınıflandırma.
- Her olayın bir önleme eylemi üretmesi gerektiğine dair bir politika.
- Tekrarlanan model sıklığı için aylık tarama.
- Eski derslerden kurtulmak için hafif ve kaliteli bir inceleme.
Kaynaklar
- Qodo (2025) 2025'te Yapay Zeka Kod Kalitesinin Durumu
- METR (2025) Yapay Zeka Araçları Deneyimli Geliştiricileri %19 Yavaşlattı
- Martin Fowler / Şef Morris (2025) Kod Üretiminde Yapay Zeka Özerkliğini Ne Kadar İlerletebiliriz?
- Simon Wilson (2025) Ajan Mühendisliği Kalıpları
- Addy Osmani (2026) Yapay Zeka Kodu Daha Hızlı Yazar. İşiniz Hala Çalıştığını Kanıtlamak.
- Microsoft .NET Ekibi (2026) Dotnet/runtime'da Copilot Kodlama Aracısı ile On Ay