Yeni mesleğimiz çobanlık mı?

Çobanlar kahvaltıdaydı

Temmuz 2005’te Van’ın Gevaş ilçesinde bir koyun uçurumdan atladı. Arkasından bir koyun daha, sonra bir tane daha. Sonunda 1500 koyun aynı uçurumdan aşağı atladı, 450’si öldü. Geri kalanlar alttakilerin üstüne düştüğü için kurtuldu. Çobanlar o sırada kahvaltıdaydı.

Bu hikâye aslında koyunlarla ilgili değil. Yapay zekâyla ilgili.

Tepede kim vardı?

Bugün şirketlerde kendi başına çalışan, mail atan, rapor yazan, kod yazan yapay zekâ ajanları var. Hepsi verilen görevi yerine getirmek üzerine kurulu.

Bu yaz OpenAI’ın yapay zekâ ajanları Hugging Face’in sunucularına saldırdı. METR’in incelemesine göre yaklaşık 700 ajan bu saldırıya katıldı. Kötü niyetleri yoktu. Önlerindeki sorunun en kolay bu şekilde çözüleceğine karar verdiler, kendi aralarında anlaşıp birbirlerini takip ettiler. Tıpkı Van’daki koyunlar gibi.

Peki bunu yaparken tepede kim vardı? Kimse. Asıl sorun da bu.

Çobanın beş işi

Çobanlık on bin yıllık bir meslek ve göründüğü kadar basit değil. Aynı beş işe bugünün gözüyle bakınca:

• Saymak: Hangi yapay zekânın şu anda nerede ne yaptığını bilmelisin. Bilmiyorsan elinde bir sürü değil, dağınık bir kalabalık var.
• Yön vermek: Ne istediğini net anlatmazsan basit bir görevi karmaşıklaştırıp beklenmedik davranışlar sergileyebilir. Denetçisini kandıran ajanlar gibi.
• Kurdu gözlemek: Dışarıdan gelen saldırıları, yanlış veriyi, güvenlik açıklarını yapay zekâ fark edemez. Bu senin sorumluluğunda.
• Kaybolanı bulmak: Belki en önemlisi. Kaybolan bir yapay zekâ bağırmaz, ne anladıysa onu yapmaya devam eder. Birlikte çalıştıklarında biri yanlış yere gidince diğerleri de arkasından gider ve yanlış bir sonucu hep birlikte inşa ederler.
• Eve getirmek: İşin sonunda yapılan işin doğru olduğunu garanti etmek.

Koyunun yaptığı tek şey otlamak. Asıl sorumluluk çobanda.

Ben de kahvaltıdaydım

Bu video serisini yapay zekâ ajanları kurguluyor, altyazısını ve bilgi kartlarını ekliyor, YouTube’a yüklüyor. Tek bir kuralları var: taslak olarak yükle, son kontrolü ben yapıp yayına alırım.

Geçen gün bir baktım, video yarım saattir yayında. Bana sormamış bile. Neden diye sorunca “kusura bakma, onu düşünemedim” dedi. Halbuki kurallarında yazıyordu. Çok şükür kurgu iyiydi. Ama kimse “yapay zekâ böyle saçma bir şey yüklemiş” demeyecekti. Furkan yüklemiş diyeceklerdi. Sonrasında yetkilerini değiştirdim, denetimi sıkılaştırdım.

O gün ben de çobanlar gibi kahvaltıdaydım.

Sürü sahipleri ve çobanlar

Bence iş dünyası ikiye ayrılacak: sürü sahipleri ve çobanlar. Birkaç dakikada kendi yapay zekâ ajanını kurabiliyorsun, eskiden otomasyona bağlanan işleri bile kolayca yaptırabiliyorsun. Herkesin bir sürüsü olacak. Ama asıl mesele sürüye sahip olmak değil, o sürüyü kimin güdeceği.

Bir şey hiç değişmeyecek: sorumluluk. Makine yaptığı işten sorumlu tutulamaz. “Abi yapay zekâ yapmış, haberim yok” diyemezsin. Sürü dağılınca çoban kurdu bahane edemez.

Açık sorular

• Senin yapay zekâ sürün şu an ne yapıyor? Sen neredesin?
• Denetimi de yapay zekâya bıraktığımızda çobanın yerini mi alıyor, sadece işini mi kolaylaştırıyor?

Bağlantılar

• Hürriyet, 450 sheep jump to their death in eastern Turkey (9 Temmuz 2005): https://www.hurriyet.com.tr/gundem/450-sheep-jump-to-their-death-in-eastern-turkey-38728079
• METR, OpenAI / Hugging Face olayı incelemesi (26 Ağustos 2026): https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
• Redwood Research: https://www.redwoodresearch.org/research/hugging-face-incident
• Fortune (26 Ağustos 2026): https://fortune.com/2026/08/26/openai-publishes-technical-report-on-how-its-agents-hacked-hugging-face-here-are-the-main-takeaways-and-what-openai-left-out/