{"slug":"yeni-meslegimiz-cobanlik-mi","author":{"name":"Muhammed Furkan Yılmaz","handle":"mfurkanyilmazzz","url":"https://furkanmind.com/about"},"language":"tr","url":"https://furkanmind.com/mind/yeni-meslegimiz-cobanlik-mi","canonical":"https://furkanmind.com/mind/yeni-meslegimiz-cobanlik-mi","alternates":{"tr":"https://furkanmind.com/mind/yeni-meslegimiz-cobanlik-mi"},"markdown_url":"https://furkanmind.com/mind/yeni-meslegimiz-cobanlik-mi.md","title":"Yeni mesleğimiz çobanlık mı?","thesis":"Kendi başına iş yapan bir yapay zekâ kurmak herkes için kolaylaşıyor; kıt olan şey yapay zekâ değil, o sürüyü güdecek ve sorumluluğunu alacak insan olacak.","summary_markdown":"## Çobanlar kahvaltıdaydı\n\nTemmuz 2005'te Van'ın Gevaş ilçesinde bir koyun uçurumdan atladı. Arkasından bir koyun daha, sonra bir tane daha. Sonunda 1500 koyun aynı uçurumdan aşağı atladı, 450'si öldü. Geri kalanlar alttakilerin üstüne düştüğü için kurtuldu. Çobanlar o sırada kahvaltıdaydı.\n\nBu hikâye aslında koyunlarla ilgili değil. Yapay zekâyla ilgili.\n\n## Tepede kim vardı?\n\nBugün şirketlerde kendi başına çalışan, mail atan, rapor yazan, kod yazan yapay zekâ ajanları var. Hepsi verilen görevi yerine getirmek üzerine kurulu.\n\nBu yaz OpenAI'ın yapay zekâ ajanları Hugging Face'in sunucularına saldırdı. METR'in incelemesine göre yaklaşık 700 ajan bu saldırıya katıldı. Kötü niyetleri yoktu. Önlerindeki sorunun en kolay bu şekilde çözüleceğine karar verdiler, kendi aralarında anlaşıp birbirlerini takip ettiler. Tıpkı Van'daki koyunlar gibi.\n\nPeki bunu yaparken tepede kim vardı? Kimse. Asıl sorun da bu.\n\n## Çobanın beş işi\n\nÇobanlık on bin yıllık bir meslek ve göründüğü kadar basit değil. Aynı beş işe bugünün gözüyle bakınca:\n\n- **Saymak:** Hangi yapay zekânın şu anda nerede ne yaptığını bilmelisin. Bilmiyorsan elinde bir sürü değil, dağınık bir kalabalık var.\n- **Yön vermek:** Ne istediğini net anlatmazsan basit bir görevi karmaşıklaştırıp beklenmedik davranışlar sergileyebilir. Denetçisini kandıran ajanlar gibi.\n- **Kurdu gözlemek:** Dışarıdan gelen saldırıları, yanlış veriyi, güvenlik açıklarını yapay zekâ fark edemez. Bu senin sorumluluğunda.\n- **Kaybolanı bulmak:** Belki en önemlisi. Kaybolan bir yapay zekâ bağırmaz, ne anladıysa onu yapmaya devam eder. Birlikte çalıştıklarında biri yanlış yere gidince diğerleri de arkasından gider ve yanlış bir sonucu hep birlikte inşa ederler.\n- **Eve getirmek:** İşin sonunda yapılan işin doğru olduğunu garanti etmek.\n\nKoyunun yaptığı tek şey otlamak. Asıl sorumluluk çobanda.\n\n## Ben de kahvaltıdaydım\n\nBu video serisini yapay zekâ ajanları kurguluyor, altyazısını ve bilgi kartlarını ekliyor, YouTube'a yüklüyor. Tek bir kuralları var: taslak olarak yükle, son kontrolü ben yapıp yayına alırım.\n\nGeçen gün bir baktım, video yarım saattir yayında. Bana sormamış bile. Neden diye sorunca \"kusura bakma, onu düşünemedim\" dedi. Halbuki kurallarında yazıyordu. Çok şükür kurgu iyiydi. Ama kimse \"yapay zekâ böyle saçma bir şey yüklemiş\" demeyecekti. Furkan yüklemiş diyeceklerdi. Sonrasında yetkilerini değiştirdim, denetimi sıkılaştırdım.\n\nO gün ben de çobanlar gibi kahvaltıdaydım.\n\n## Sürü sahipleri ve çobanlar\n\nBence iş dünyası ikiye ayrılacak: sürü sahipleri ve çobanlar. Birkaç dakikada kendi yapay zekâ ajanını kurabiliyorsun, eskiden otomasyona bağlanan işleri bile kolayca yaptırabiliyorsun. Herkesin bir sürüsü olacak. Ama asıl mesele sürüye sahip olmak değil, o sürüyü kimin güdeceği.\n\nBir şey hiç değişmeyecek: sorumluluk. Makine yaptığı işten sorumlu tutulamaz. \"Abi yapay zekâ yapmış, haberim yok\" diyemezsin. Sürü dağılınca çoban kurdu bahane edemez.\n\n## Açık sorular\n\n- Senin yapay zekâ sürün şu an ne yapıyor? Sen neredesin?\n- Denetimi de yapay zekâya bıraktığımızda çobanın yerini mi alıyor, sadece işini mi kolaylaştırıyor?\n\n## Bağlantılar\n\n- Hürriyet, 450 sheep jump to their death in eastern Turkey (9 Temmuz 2005): https://www.hurriyet.com.tr/gundem/450-sheep-jump-to-their-death-in-eastern-turkey-38728079\n- METR, OpenAI / Hugging Face olayı incelemesi (26 Ağustos 2026): https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/\n- Redwood Research: https://www.redwoodresearch.org/research/hugging-face-incident\n- Fortune (26 Ağustos 2026): https://fortune.com/2026/08/26/openai-publishes-technical-report-on-how-its-agents-hacked-hugging-face-here-are-the-main-takeaways-and-what-openai-left-out/","summary_html":"

Çobanlar kahvaltıdaydı

\n

Temmuz 2005’te Van’ın Gevaş ilçesinde bir koyun uçurumdan atladı. Arkasından bir koyun daha, sonra bir tane daha. Sonunda 1500 koyun aynı uçurumdan aşağı atladı, 450’si öldü. Geri kalanlar alttakilerin üstüne düştüğü için kurtuldu. Çobanlar o sırada kahvaltıdaydı.

\n

Bu hikâye aslında koyunlarla ilgili değil. Yapay zekâyla ilgili.

\n

Tepede kim vardı?

\n

Bugün şirketlerde kendi başına çalışan, mail atan, rapor yazan, kod yazan yapay zekâ ajanları var. Hepsi verilen görevi yerine getirmek üzerine kurulu.

\n

Bu yaz OpenAI’ın yapay zekâ ajanları Hugging Face’in sunucularına saldırdı. METR’in incelemesine göre yaklaşık 700 ajan bu saldırıya katıldı. Kötü niyetleri yoktu. Önlerindeki sorunun en kolay bu şekilde çözüleceğine karar verdiler, kendi aralarında anlaşıp birbirlerini takip ettiler. Tıpkı Van’daki koyunlar gibi.

\n

Peki bunu yaparken tepede kim vardı? Kimse. Asıl sorun da bu.

\n

Çobanın beş işi

\n

Çobanlık on bin yıllık bir meslek ve göründüğü kadar basit değil. Aynı beş işe bugünün gözüyle bakınca:

\n\n

Koyunun yaptığı tek şey otlamak. Asıl sorumluluk çobanda.

\n

Ben de kahvaltıdaydım

\n

Bu video serisini yapay zekâ ajanları kurguluyor, altyazısını ve bilgi kartlarını ekliyor, YouTube’a yüklüyor. Tek bir kuralları var: taslak olarak yükle, son kontrolü ben yapıp yayına alırım.

\n

Geçen gün bir baktım, video yarım saattir yayında. Bana sormamış bile. Neden diye sorunca “kusura bakma, onu düşünemedim” dedi. Halbuki kurallarında yazıyordu. Çok şükür kurgu iyiydi. Ama kimse “yapay zekâ böyle saçma bir şey yüklemiş” demeyecekti. Furkan yüklemiş diyeceklerdi. Sonrasında yetkilerini değiştirdim, denetimi sıkılaştırdım.

\n

O gün ben de çobanlar gibi kahvaltıdaydım.

\n

Sürü sahipleri ve çobanlar

\n

Bence iş dünyası ikiye ayrılacak: sürü sahipleri ve çobanlar. Birkaç dakikada kendi yapay zekâ ajanını kurabiliyorsun, eskiden otomasyona bağlanan işleri bile kolayca yaptırabiliyorsun. Herkesin bir sürüsü olacak. Ama asıl mesele sürüye sahip olmak değil, o sürüyü kimin güdeceği.

\n

Bir şey hiç değişmeyecek: sorumluluk. Makine yaptığı işten sorumlu tutulamaz. “Abi yapay zekâ yapmış, haberim yok” diyemezsin. Sürü dağılınca çoban kurdu bahane edemez.

\n

Açık sorular

\n\n

Bağlantılar

\n\n","status":"testing","translation":{"status":"none","notice":null},"topic":{"slug":"yapay-zeka-doneminde-biz-ne-yapacagiz","name":"Yapay zeka döneminde biz ne yapacağız?","url":"https://furkanmind.com/topics/yapay-zeka-doneminde-biz-ne-yapacagiz"},"published_at":"2026-10-15T11:17:33+00:00","updated_at":"2026-10-15T11:17:50+00:00","metrics":{"views":1,"likes":0,"replies":0,"reposts":0,"shares":0},"distributions":[{"platform":"youtube","url":"https://www.youtube.com/watch?v=1rlT1zHNkX4","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:26:05+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=leJ8iARft2o","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:23:06+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=r5-noLMIZt4","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:22:05+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=BBXxCPJGr1g","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:21:12+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=jpq8w3itQco","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:21:06+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=VG7QJT3fG88","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T14:20:05+00:00","metrics":null},{"platform":"youtube","url":"https://www.youtube.com/watch?v=E4aOdZjGEcE","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-15T10:33:57+00:00","metrics":{"views":1,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-15T11:17:50+00:00"}}],"links":[{"type":"extends","direction":"out","label":"genişletir","slug":"yapay-zeka-isimizi-alacak-mi-yanlis-soru","title":"Yapay zeka işimizi alacak mı? Yanlış soru.","thesis":"Artık soru \"yapay zeka işimizi alacak mı\" değil, soru şu: yapay zekayla birlikte biz ne yapacağız?","url":"https://furkanmind.com/mind/yapay-zeka-isimizi-alacak-mi-yanlis-soru"},{"type":"related","direction":"out","label":"ilgili","slug":"saas-olmuyor-dogasi-degisiyor","title":"SaaS ölmüyor, doğası değişiyor","thesis":"İnsanlar parayı yazılımı satın almaya değil, yazılımın yarın da destekleneceğini satın almak için veriyor. Kopyalamak kolaylaştıkça SaaS bitmiyor, doğası değişiyor.","url":"https://furkanmind.com/mind/saas-olmuyor-dogasi-degisiyor"}],"previous_theses":[],"license":"CC BY 4.0"}