{"slug":"yapay-zekada-once-kirmizi-buton","author":{"name":"Muhammed Furkan Yılmaz","handle":"mfurkanyilmazzz","url":"https://furkanmind.com/about"},"language":"tr","url":"https://furkanmind.com/mind/yapay-zekada-once-kirmizi-buton","canonical":"https://furkanmind.com/mind/yapay-zekada-once-kirmizi-buton","alternates":{"tr":"https://furkanmind.com/mind/yapay-zekada-once-kirmizi-buton","en":"https://furkanmind.com/en/mind/ai-needs-a-red-button-first"},"markdown_url":"https://furkanmind.com/mind/yapay-zekada-once-kirmizi-buton.md","title":"Yapay zekada önce kırmızı buton","thesis":"Otomatik asansör hazırdı ama insanlar 50 yıl ona binmedi, güveni operatör değil stop butonu, telefon ve kayıtlı bir ses getirdi. Yapay zekaya da insanlar, durdurabileceklerini ve geri alabileceklerini bildikleri bir kırmızı buton olmadan güvenmeyecek.","summary_markdown":"## Otomatik asansöre kimse binmek istemedi\n\nOtomatik asansör icat edildiğinde hiç kimse ona binmek istemedi. \"Otomatik asansör ne?\" diyorsan, ben de ilk okuduğumda aynı tepkiyi verdim. Bugün işe giderken, eve giderken, okulda, metroda, alışveriş merkezinde bindiğimiz bildiğimiz asansörden bahsediyorum. Onun adı otomatik asansör.\n\nBugün yapay zekada benzer bir süreci yaşadığımızı düşünüyorum.\n\n## Her asansörün bir operatörü vardı\n\n1900'lerin başında her asansörün bir operatörü vardı. İçeri giriyordun, sana kapıyı açıyordu. Hangi kata gideceğini söylüyordun, o düğmeye basıp kapıyı kapatıyor ve asansörü yukarı çıkarıyordu.\n\nOtomatik asansör, operatör olmadan çalışabilen asansördü. İnsanlar uzun süre içine girip korktular ve geri çıktılar. Akıllarındaki soru şuydu: operatör nerede? Yaklaşık 50 yıl boyunca otomatik asansör yaygınlaşmadı.\n\nTeknoloji hazırdı. İnsanlar hazır değildi.\n\n## Grev her şeyi değiştirdi\n\n1945'te New York'ta asansör operatörleri greve gitti. Yaklaşık 1,5 milyon insan işine gidemedi. 40, 50, 60 katlı binaların tepesine merdivenle çıkılmaz. Asansörler durunca sistem kilitlendi.\n\nBina ve şirket sahipleri kalıcı bir çözüm istedi ve otomatik asansörün vakti geldi. Ama insanların korkusu hâlâ çok yüksekti. O yüzden asansörlere bir güven katmanı eklendi:\n\n- **Stop butonu.** Bugün hâlâ duran o düğme.\n- **Telefon.** İçeride kalırsan arayabileceğin bir hat.\n- **Kayıtlı bir ses.** İçeri girince \"bu asansör otomatiktir\" diyen bir ses.\n\nÇocukların düğmelere bastığı reklamlar bile çekildi. Makinenin operatöre ihtiyacı yoktu. İnsanların, o makineye güvenmek için orada bir insanın olmasına ihtiyacı vardı.\n\n## Uçakta da aynısı oluyor\n\nOtopilot onlarca yıldır var. Ona rağmen uçağın başında iki pilot oturuyor. Bildiğim kadarıyla kalkışta ve inişte daha aktifler, yolun büyük kısmını otopilot yönetiyor. Ama yolcu olarak ben de orada bir pilot olmasını tercih ederim. Sorumluluğu alan bir insanın orada olması güven veriyor.\n\nKoltuğunun önündeki harita ekranı da öyle. Nerede olduğunu, ne kadar kaldığını, hangi hızla gittiğini gösteriyor. Uçuşa hiçbir etkin yok ama insanı çok rahatlatıyor. Doğru miktardaki arayüz kontrol değil, gözlemdir.\n\n## Ben kendi sistemime kırmızı butonu koydum\n\nÇekimlerimi yapan ve sosyal medyamı yöneten sisteme ben de o kırmızı butonu koydum. Çekimde bir yapay zeka yönetmenim var. Işığı, sesi, nerede nasıl duracağımı ayarlıyor. Çekimin sonunda video yapay zekayla kurgulanıp önüme geliyor. Ben \"bunu çıkaralım, çok kesmişsin, animasyonu artıralım\" diyorum. Son kararı ben veriyorum.\n\nSosyal medya hesaplarımın çoğu da bu sisteme bağlı. Hiçbir şey ben karar vermeden yayına çıkmıyor ve sistemin bir de yasak listesi var. Elimde o asansördeki stop butonu gibi bir buton var ve bu sayede kendimi güvende hissediyorum.\n\nDurum benim kontrolümde ama operatör ben değilim. Gözlemliyorum. Bir yanlış varsa müdahale ediyorum. Bazen bekleyip sonucu görüyorum, gerekirse geri alıyorum.\n\n## Önce kırmızı buton\n\nBelki bugün yapmamız gereken şey çok basit: yapay zekada önce o kırmızı butonu yapmak. \"Yapay zekayı kullanırsan başına şu gelir\" değil. \"Sen orada olacaksın, kırmızı butona bastığında her şey duracak ve geri alabileceksin.\"\n\nYapılan işin sorumluluğu hâlâ bir insandaysa, insanların güvenebileceği bir kırmızı buton olmak zorunda. Yoksa kolay kolay güvenmiyoruz, güvenmeyeceğiz de. Değişime çok hızlı uyum sağlayamamak insanın doğasında var.\n\nAma bu sefer asansördeki gibi 50-60 yıl süreceğini düşünmüyorum. Kırmızı butonu kurmak artık çok daha kolay ve değişime uyumumuz daha yüksek. Yapay zekanın, elimizdeki kırmızı butonlarla hayatımıza çok daha fazla girdiğini hep birlikte göreceğiz.\n\nEkranlar her geçen gün azalıyor. Sen hangi taraftasın?","summary_html":"

Otomatik asansöre kimse binmek istemedi

\n

Otomatik asansör icat edildiğinde hiç kimse ona binmek istemedi. “Otomatik asansör ne?” diyorsan, ben de ilk okuduğumda aynı tepkiyi verdim. Bugün işe giderken, eve giderken, okulda, metroda, alışveriş merkezinde bindiğimiz bildiğimiz asansörden bahsediyorum. Onun adı otomatik asansör.

\n

Bugün yapay zekada benzer bir süreci yaşadığımızı düşünüyorum.

\n

Her asansörün bir operatörü vardı

\n

1900’lerin başında her asansörün bir operatörü vardı. İçeri giriyordun, sana kapıyı açıyordu. Hangi kata gideceğini söylüyordun, o düğmeye basıp kapıyı kapatıyor ve asansörü yukarı çıkarıyordu.

\n

Otomatik asansör, operatör olmadan çalışabilen asansördü. İnsanlar uzun süre içine girip korktular ve geri çıktılar. Akıllarındaki soru şuydu: operatör nerede? Yaklaşık 50 yıl boyunca otomatik asansör yaygınlaşmadı.

\n

Teknoloji hazırdı. İnsanlar hazır değildi.

\n

Grev her şeyi değiştirdi

\n

1945’te New York’ta asansör operatörleri greve gitti. Yaklaşık 1,5 milyon insan işine gidemedi. 40, 50, 60 katlı binaların tepesine merdivenle çıkılmaz. Asansörler durunca sistem kilitlendi.

\n

Bina ve şirket sahipleri kalıcı bir çözüm istedi ve otomatik asansörün vakti geldi. Ama insanların korkusu hâlâ çok yüksekti. O yüzden asansörlere bir güven katmanı eklendi:

\n\n

Çocukların düğmelere bastığı reklamlar bile çekildi. Makinenin operatöre ihtiyacı yoktu. İnsanların, o makineye güvenmek için orada bir insanın olmasına ihtiyacı vardı.

\n

Uçakta da aynısı oluyor

\n

Otopilot onlarca yıldır var. Ona rağmen uçağın başında iki pilot oturuyor. Bildiğim kadarıyla kalkışta ve inişte daha aktifler, yolun büyük kısmını otopilot yönetiyor. Ama yolcu olarak ben de orada bir pilot olmasını tercih ederim. Sorumluluğu alan bir insanın orada olması güven veriyor.

\n

Koltuğunun önündeki harita ekranı da öyle. Nerede olduğunu, ne kadar kaldığını, hangi hızla gittiğini gösteriyor. Uçuşa hiçbir etkin yok ama insanı çok rahatlatıyor. Doğru miktardaki arayüz kontrol değil, gözlemdir.

\n

Ben kendi sistemime kırmızı butonu koydum

\n

Çekimlerimi yapan ve sosyal medyamı yöneten sisteme ben de o kırmızı butonu koydum. Çekimde bir yapay zeka yönetmenim var. Işığı, sesi, nerede nasıl duracağımı ayarlıyor. Çekimin sonunda video yapay zekayla kurgulanıp önüme geliyor. Ben “bunu çıkaralım, çok kesmişsin, animasyonu artıralım” diyorum. Son kararı ben veriyorum.

\n

Sosyal medya hesaplarımın çoğu da bu sisteme bağlı. Hiçbir şey ben karar vermeden yayına çıkmıyor ve sistemin bir de yasak listesi var. Elimde o asansördeki stop butonu gibi bir buton var ve bu sayede kendimi güvende hissediyorum.

\n

Durum benim kontrolümde ama operatör ben değilim. Gözlemliyorum. Bir yanlış varsa müdahale ediyorum. Bazen bekleyip sonucu görüyorum, gerekirse geri alıyorum.

\n

Önce kırmızı buton

\n

Belki bugün yapmamız gereken şey çok basit: yapay zekada önce o kırmızı butonu yapmak. “Yapay zekayı kullanırsan başına şu gelir” değil. “Sen orada olacaksın, kırmızı butona bastığında her şey duracak ve geri alabileceksin.”

\n

Yapılan işin sorumluluğu hâlâ bir insandaysa, insanların güvenebileceği bir kırmızı buton olmak zorunda. Yoksa kolay kolay güvenmiyoruz, güvenmeyeceğiz de. Değişime çok hızlı uyum sağlayamamak insanın doğasında var.

\n

Ama bu sefer asansördeki gibi 50-60 yıl süreceğini düşünmüyorum. Kırmızı butonu kurmak artık çok daha kolay ve değişime uyumumuz daha yüksek. Yapay zekanın, elimizdeki kırmızı butonlarla hayatımıza çok daha fazla girdiğini hep birlikte göreceğiz.

\n

Ekranlar her geçen gün azalıyor. Sen hangi taraftasın?

\n","status":"testing","translation":{"status":"machine","notice":null},"topic":{"slug":"yapay-zeka-doneminde-biz-ne-yapacagiz","name":"Yapay zeka döneminde biz ne yapacağız?","url":"https://furkanmind.com/topics/yapay-zeka-doneminde-biz-ne-yapacagiz"},"published_at":"2026-10-23T17:01:05+00:00","updated_at":"2026-10-23T17:01:05+00:00","metrics":{"views":1,"likes":1,"replies":0,"reposts":0,"shares":0},"distributions":[{"platform":"youtube","url":"https://www.youtube.com/watch?v=n_volofG1UQ","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:49+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:03:02+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=5zv9ud-N9Dg","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:44+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:03:01+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=cu9V7-O4MFg","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:38+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:03:00+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=vD-E_GHQkc0","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:32+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:59+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=aKhKGbyCZCw","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:27+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:58+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=D1UypCl4q0I","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:21+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:57+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=0_qLQac-3e8","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:14+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:56+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=MbjxbXqw8a4","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:09+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:55+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=nRCpo2Yn1Y4","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:47:04+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:55+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=NJE3XFnG_zo","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:57+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:54+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=7FgUaC8f0Z0","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:52+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:53+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=0X7__EVHPzE","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:46+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:52+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=p37yy7PhqBA","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:39+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:51+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=i9kFswPs0wc","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:33+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:51+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=JYmTiE5gi3s","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:27+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:50+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=s6Sr_jb6w6s","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:20+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:49+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=sZIgkNfEgmg","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:13+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:48+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=kVuhi9-TKvo","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T18:46:06+00:00","metrics":{"views":0,"likes":0,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:47+00:00"}},{"platform":"youtube","url":"https://www.youtube.com/watch?v=12kFxS9TtHg","account":"Muhammed Furkan Yılmaz","published_at":"2026-10-23T16:50:53+00:00","metrics":{"views":1,"likes":1,"replies":0,"reposts":0,"shares":0,"captured_at":"2026-10-23T20:02:47+00:00"}}],"links":[{"type":"supports","direction":"out","label":"destekler","slug":"yeni-meslegimiz-cobanlik-mi","title":"Yeni mesleğimiz çobanlık mı?","thesis":"Kendi başına iş yapan bir yapay zekâ kurmak herkes için kolaylaşıyor; kıt olan şey yapay zekâ değil, o sürüyü güdecek ve sorumluluğunu alacak insan olacak.","url":"https://furkanmind.com/mind/yeni-meslegimiz-cobanlik-mi"},{"type":"related","direction":"out","label":"ilgili","slug":"arayuzler-gidiyor-mu","title":"Arayüzler gidiyor mu?","thesis":"Yazılım ölmüyor, ölen şey arayüz: Kodak karanlık odayı ortadan kaldırmadı, başkasının işi haline getirdi; bugün ekranlar, sekmeler ve git gel kopyala yapıştırdan oluşan arayüz vergisi de aynı şekilde yapay zekaya taşınıyor.","url":"https://furkanmind.com/mind/arayuzler-gidiyor-mu"},{"type":"extends","direction":"out","label":"genişletir","slug":"kod-yazmiyoruz-kod-yonetiyoruz","title":"Kod yazmıyoruz, kod yönetiyoruz","thesis":"Yazılımcıların başına gelen hepimizin başına gelecek: hesap işi makineye geçtiğinde insan computer'lar kaybolmadı, makineyi yönetmeye başladı; bugün kodda da aynısı oluyor ve değerli olan yazmak değil, ne istediğini anlatmak, sonucu kontrol etmek ve sorumluluğu almak.","url":"https://furkanmind.com/mind/kod-yazmiyoruz-kod-yonetiyoruz"}],"previous_theses":[],"license":"CC BY 4.0"}