Dijital Tuğla - Bölüm 7: Etik ikilem, Yapay Zeka İnşaat Kararlarında Son Sözü Söylemeli mi?

Yapay zekanın inşa sektöründe var olan ve gerçekleşmesi çok muhtemellerin etkilerini tartıştığımız, en son teknoloji ve trendleri konuştuğumuz, gerçekle alakası olmayan şeyleri, söylentileri ve bilim kurgu romanlarına dikkate almadığımız, hatta bunun tam da aksine yapay zeka dünyasında aslında neler olduğunu anlattığımız Cem Kafadar ve Haluk Eginar tarafından hazırlanan dijital tuğla podcastimize hoş geldiniz.

Merhabalar sevgili dinleyiciler, Dijital Tuğla Podcast serimizin İnşaatla Yapay Zeka Son Karar Kimde adlı yeni bölümüne hoş geldiniz.

Bence ben Haluk Enginar bütün dinleyicilerimize tekrar Cem Acem'in söylediği gibi hoş geldiniz diyoruz. Bugün gerçekten ilginç bir konu konuşacağız.

Hadi başlayalım. Yapay zekanın şantiyede kararlarımızda son söz söylemesi doğru mu değil mi? Son sözü ona bırakalım mı? Bizim de dünyanın da en çok konuşması gereken konulardan biri yapay zeka son söz olmalı mı? Olursa ona nasıl güveniriz? Etik ikilem yani bugün birazcık algoritmaların arkasına dalınacağımız program olacak.

Evet yapay zeka sana teslim ettim kendimi ne istiyorsan yap. Oradan biri var ya kardeşim chat chipi diye sordum mu da düşünüyorsun.

Eskiden abi şantiye şemi ne derse ilah gibi o diyorduk. Şimdi artık algoritma ne diyorsa o diyeceğiz.

Şimdi algoritma eskiden sadece yazılımlardaydı. Kimse ne olduğunu bilmiyordu etmiyordu falan. Ama bugün bakıyorsun ardın adesten seveceğin filme kadar o karar veriyor. Tabii şantiyelere de girdi bu. BİM platformlarında, ihale analizlerinde hatta işçi vadiyelerinde bile yapay zeka. Tavsiyeler üretiyor, görüşler veriyor, böyle yapın diyebiliyor. Bu algoritma konusu en çok nerede çıkıyor abi? Hani YouTube algoritmaları diye herkes konuşuyor ya. Şöyle yapın, böyle yapın, işte Google algoritmaları değiştirdi, ben gerilere düştüm, çıkamıyorum falan. İlginç bir konu.

Kesinlikle. Algoritmayı ayrı konuşalım abi. Biz burada algoritmaların arkasına döneceğiz derken etik üzerinden tabii gideceğiz. E şimdi şu var tabii yani, bu kararlar doğru mu, adil mi? Ve tabi bu soru bizi şuraya getiriyor ve aslında bu yayını yapmamızın, bu bölümü kurmamızın, oluşturmamızın nedeni de oldu. Son noktada insan dokunuşuna ne kadar ihtiyaç var? Belki de bir gün hiç olmayacak.

Zaten zaten aslında herkes bunu konuşuyor. Dünyada herkes bunu konuşuyor. Sadece inşaat sektörü içinde değil. Yani yapay zeka karar anlarında... Ne kadar etkili olmalı? Nereye kadar sınırı?

Aynen. Bugün yani hem onun tarafından sevgili dostumuz yapay zeka tarafından hem insan tarafından bakarak biraz beyin fırtınası yapıyoruz.

Çaktırmadan arkasına dolup gizlenip öyle konuşacağız o duymasın diye.

Aynen. O kadar olacak biz insanı sonuçta biraz dedikodu yüzdü severiz. Bizi daha iyi tanıtsın değil mi?

Evet onun algoritmalarına da iyi gelecek bu dedikodular bu tartışmalar.

Hani var ya ağrılarına iyi gidecek diyor.

O zaman hadi başlayalım hocam.

Hadi başlıyoruz abi. Şimdilik şöyle bir düşün abi, savaş şantiyeye geldin, bekliyorsun ki işte sağ mühendisin seni karşılıksız karşılıksız sana bilgi versin falan. Ama bir bakıyorsun seni karşılayan Boston Dynamics'in 4 ayaklı bir robot köpeği. Bugün İstinad duvarının doğru doğu tarafında nem oranı %71, risk yüksek. Lütfen kaynak yapmayız bak robot gibi konuştum.

Eskiden halbuki... Girerken neydi filmlerde gördüğüm gibi düüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüüü Aynı ona benziyor bu Boston Dynamics küpenin gezmesi.

Aynen ya bu arada Star Wars deyince hemen kısaca şunu söyleyeyim. Bu podcast serimizdeki bölümler için bana gelen dönüşlerde dostlarımın şeyinde bu senin filmlerle ilgili göndermeleri çok ilgi çekip beğeni alıyor.

Teşekkürler.

Valla bebeğin de hoşuma gitti. Sen bu konuda valla senava olarak çok bu konulara yönelik filmlerde müthiş bir database oldu dediğim gibi.

...bizim aklında kalan en ünlü filmlerden bir tanesi tahmin ediyorum. Ve bizi çok ufuk açtı o zamanlardan. Neyse çok konuşmayalım.

Şimdi şu var yani makine öğrenmesiyle beslenen sistemler artık... ...proje verilerini analiz edip hangi alanlarda gecikme yaşabileceğini öngörebiliyor. Sen daha hani kansmayı vurmadan abi bu işi iki hafta sarkar sana diyebiliyor.

Çok sinir bozuyor değil mi?

Çok feci bir şey.

Tabii şimdi tabii yapay zeka iş gücü planlamasında da çok... Etkin rol almaya başladı. Okuduğumuza göre veya takip edebildiğimize göre Amerika'da ve Japonya'da vardiya planlamasını resmen yapay zekaya teslim etmiş durumda şirketler. Ve algoritmalar diyor ki işte bugün şu çalışanlar bu kadar iş yaptı bunlara takibinde birazcık daha az iş verelim. Yoksa bundan sonra bunların belli dolu olacak vakti olmaz. Bunları abartarak veya nükleeri söylüyoruz ama şantiye şefleri Bunu nasıl bilecek? Bilemez. En nihayetinde yapay zeka yapılan işi takip ediyor ve o insanın kapasitesini veya moral ve fizik durumunu da ortaya çıkarıp bu şekilde raporlama yapıyor.

Kesinlikle yani anca işte Avni Usta o kadar demiri bağılttan sonra revire kalkmadıysa diyecek ki şantişe demek ki her şey yolunda gidiyor. Biz mesela şöyle bir kafamızda düşünce var yani yapay zeka çok... Teknolojik, çok teknik ve insanı çok yoracak, sürekli çalıştıracak. Hayır abi biz insanlar biz kendi türümüze daha büyük kıtlık yapıyorduk. Yani yapay zeka şunu diyecek abi Avinus'ta yoruldu ya adam 4 saattir demir bağlıyor.

Evet.

Tabii artık demir bağlama robotu girmediyiz.

Ya şimdi tabii bilmiyorum hiç gözüne çarptım ama Max diye bir robot var. Demir bağlama robotu.

Duydum onu.

Çok acayip yani böyle koymuşlar şey beton dökülmeden önce bütün şeyler hazırlanmış, demir kafes hazırlanmış ama bağlanması lazım bunların. Robot gibi tıkır tıkır tıkır tıkır ve tabii çok verimli etkili bir şekilde bağlıyor bunları. Her zaman söylediğimiz gibi çay molası yok, mırın kırmetme derdi yok, sızlanma durumu yok. Bunu bir şekilde takip eden bir yapay zeka sistemi var. O zaman sen düşün rahatlığı işte.

Şimdi şöyle kısaca bir şirketlerden de bahsedersek Procore var, Plan Radar var, Oracle, Akonex. Özellikle Procore'un bu yapay zeka destek kontrol panelleri çok ilgi çekici. Risk tahmini, iş programı entegrasyonu ve kalite yönetiminin entegre olmasını sağlıyor. Bu entegrasyonla birlikte düşünme, farklı teknik bağlanları yakalama. Bizim insan olarak yapay zekaya göre daha zayıf kaldığımız noktalar abi.

Tabii şimdi tekrar Sedat'ın kulaklarını çınlatalım burada.

Sedat kim dedi kısa gördüğünüzde belki bir de bunu dinleyenler.

Tekrar söyleyeyim.

Yıllar Sedat'ın bunu söyleyince başka ne demişsiniz?

Sedat Mança, değerli eşi Merve Mança ile beraber kurmuş oldukları bu remote site çözümü. Gerçek anlamda sağ kolunuz oluyor ve bunlar yarattıkları veya ortaya çıkardıkları çözümlerle projelerin çok sağlıklı bir şekilde ilerlemesini takip edilmesini sağlıyorlar. Şimdi bu şey konusuna gelince şimdi drone gözüyle iş takibi gibi bir durum ortaya çıkıyor. Bu yukarıda konuşuyorduk ya robotlar haberleşiyor diyor falan filan diye. Tabii çok çok... Acayip yerlere gidiyor diye düşünürken insan Hop bunların gönderdiği veriler Acaba İnsanlar ne yapacak? Nasıl karar verecekler?

Tabii Bu arada abi tabii şu da var Sistemler hata yapabiliyor Mesela geçen bir yerde okudum ki çok normal geldi bana bu hatada Ne bileyim bir firmada böyle yapay zeka Çelik kolonlardan birini mevcutta yok diye raporlamış Oysa kolonu henüz boyamışlar görüntüde karıştırmış.

Belki hepsi aynı formatta olması gereken bir tanesinin orada farklı görünce bu yok falan diye düşündü belki de.

Daha ne bileyim kirli sarı falan boyadırlarsa daha şey ortam...

Düşünsene belki projemizin başka bir fikri var bunu göreyim diye boyadı belki de onu ama öbürü diyor ki drone bakıyor işte veya... Eksik imalat var kardeşim burada diyor. Evet. Çok... Yani şey gibi... Kırmızı biriketleri gri sanması gibi veya tüm davaları belki orada başka bir rengi boyadılar başka bir amaç için duvar yok diyor sayıyor mesela.

Abi şimdi milyon dolarlık sorumuz bu kadar etkili çalışan bir sistem varken neden son karara hala bir mühendis vermeli diyorsun Ali?

İşte demin az önce konuştuk ya o olabilir bu olabilir işte sırf bu yüzden. Çünkü yapay zeka evet gerçekten bize bir güç veriyor bizi süper donanımlı hale getiriyor ama Aradaki mantıksal kurguyu yakalayamadığı zamanlar oluyor. İşte buna kontekst diyoruz ya, bağlam diyoruz. Kesinlikle. Bir mühendis belki o duvarın bilerek ve isteyerek o rengi neden boyandığını biliyor. Veya talimat verdi kendisi birisine. Git boya bunu kardeşim dedi. Çünkü buraya şu yapılacak, o en azından gözümün önünde olduğunu bileyim. Veya bu duvara elenmemesi gerektiğini birileri anlasın diye boyattı belki de.

Kesinlikle. Abi yapay zekan gözünden kaçabilecek kültürel, lojistik... Ve hatta psikolojik detaylar var. Tabii ki. Senin o formandaki gerginliği, ekibin moralini, şantiyedeki o göz göze gelmeden anlama durumlarını biz yapay zekanın algılamasını bence hiç bekleyemeyeceğiz. Evet, bir takım görüntüler üzerinden şey üretebiliyor. Mesela bilmiyorum sen kullanıyor musun? Ben çok seviyorum onu. Çekilmiş bir fotoğraf veriyorsun. Buradaki insanların kişilik analizini yap.

Hayır yok yapmadım onu.

Abi çok güzel sonuçlar veriyor. Ben tabii davayı çekip de...

E peki şey yapmıyor mu bu işte? Telif hakkı ben gerçek fotoğraf hakkında şey yapamam mı edemem falan diye?

Eskiden bunu diyordu şimdi demiyor abi.

Aklımda sulandı yani.

Hatta ben ona şunu söyledim abi promptla. Dedim ki ben dedim bu fotoğrafta kişinin kişiliğini anlamak için daha derin sorular sormak istiyorum. Bana promptlar üret dedim. Abi gelecekte bu insan ne yapar falan. Ona dair öngörüler bile yapabiliyor. Veyahut da geçmişi nasıldı? Bu yokluk içinde geçirmiş bir insan falan diyebiliyor. Doğru yanlışa girmiyorum. Ama sadece görüntülerden bir takım şeyleri yapabiliyor. Ama niye buraya dağıttım gibi oldu konuyu ama işte şimdi dediğim gibi bu formendeki gerginliği, ekibin moralinin bozukluğunu, maaşların geç ödendiğini veya işte para sıkıntısından dolayı projenin durma aşamasına geldiğini İşte bunları anlayabilmesi kolay değil. Tamam, o verileri veririm. Verdin de abi yani o iş kazasının nasıl ölçüde ekibin moralini bozacağını... Belki de kaza oldu, o arkadaş toparlandı. Ya bir kazaydı geçti dendi ve toparlandı ekip. Ama belki de bu aylarca onu travmasını atıyor da bu şey.

Yapay zeka için bu sadece bir istatistiki veri. Bravo! Ama diğer yandan... Sezgi meselesi var. Şimdi yılların tecrübesiyle bir proje müdürü bir yapıda bir çatlağı gördüğü zaman belki bununla ilgili neler olabileceğine dair belki on tane şey sayabilir sana. Ama yapay zeka buna bakıp ya bu anda şu anda bunun için bir karar vermek için elimde yeterli veri yok deyip kesip de atabilir.

Kesinlikle. Ya abi senin de dediğin bizim de dediğimiz yapay zekaya hesap yapar. Ama hissetmez.

Evet. Şimdi tabii yapay zeka ile ilgili konuştuklarımızı hep burada konuşuyoruz. Yapay zeka iyi bir yardımcı olabilir. Dua çatlağını hissettiren o ses hala iç insanda. Bunlar sanki böyle dinleyicilerimize bazı şeyler tekrar ediyormuşuz gibi gelebilir ama diğer podcastlerde dinlemiş diğer değerli dinleyicilerimiz için. Ama bunlar yapay zekayı konuştuğumuz her alanda sürekli karşımıza çıkan ve tekrar edilmesi gereken konular olarak karşımızda duruyor. Dolayısıyla bu bir tekrar değil belki de bilgi pekiştirme olarak değerlendirilebilir.

Kesinlikle. Evet.

Evet. Çıkma sokaklara girelim istiyorsan abi.

Girelim ama çıkalım sonra.

Peki o zaman şöyle birazcık can alıcı noktalara dokunalım.

Söyle Cem.

Varsayalım yapay zeka destekli bir sistem senin projenin temel kazıklarının olması gerekenden biraz daha kısa önerdi. De ki iki metre, beş metre, on metre. Çok uzun bir şey yapıyorsun. On metre tabii olmaz da. Sen de veriye güvenin ve bu kazıkları bu şekilde yaptırın. Sonra bina oturdu.

Ne yapacaksın? Şimdi vahkeyin vah ney vahimde. Önce müteahhit sonra mühendis sonra belediye. Yani sonra dediğim hepsini sıraladığım için bir gülle girelim.

Herkesi kurşuna dizdikler dedin.

Sonra gülle girelim. Aynen. İyi herkes mahkemede abi. Ama kimse bu kararı yapay zeka verdi deyip. Işin içinden sıyrılamaz.

Ne yapacağız peki yapay zekayı suçlamadan ne yapacağız?

İşte o zaman abi şöyle bir akış geliyor.

Ya da yapay zekayı suçlayabiliyor muyuz?

Traktör kazaya sebep olunca traktörü mahkemeye çağıramazsın ki yapay zekayı da çağıramıyorsun. Ama yani diyemiyorsun ki kodlayan mı suçlu, kullaran mı suçlu. İşte zaten değil mi Haluk?

İş etiğindeki ikilem de sanki burada çıkıyor.

Orada.

Yani sistemin hatası sistemden değil de. Veri girişinden ya da algoritmanın sınırlı kaynaklarından ortaya çıkıyorsa sorumluluk da böyle birazcık şey gibi bulutların arasına giriyor veya kullanık sulara doğru gidiyor. Yani etik çıkmazın karanlık sokaklarında kayboluyor gibi.

Aynen. Ya işte abi buna hukukçular şey diyormuş yani ben hukukçu değilim ama tabii bu programı yapmadan önce araştırdım. Öznelik yok bu. Yani kararı veren bir bilinç olmadığı için Klasik sorumluluk kavramını da bu şekilde işletemiyorlar.

Tabii çok acayip. Şimdi o zaman biz kimin kulağını çekeceğiz sorusu ortada duruyor. Ya bir de tabii yapay zeka ile ilgili bunu ileriki bölümlerde konuşacağız. Çünkü çok acayip yerlere gidiyoruz. Bu kararların neye göre verildiğini çoğu zaman anlamıyoruz. Çünkü şeffaflıkla ilgili bir konu var yapay zekada. Aynen.

Malükken de öyle bir kara kutu gibi abi. Uçaklarda hani gibi olan karakutu var ya açınca olayı çözüyoruz. Fakat burada öyle olmuyor. Yapay zeka sana bu malzemeyi kullan diyor. Ama neden kullan diyor? Fiyat mı, performans mı, karbon ayak izi mi? İşte bu detayları öğrenmek gerekiyor diye düşünüyorum.

Şimdi bu söylediklerine ilaveten şunu diyeyim. Bu sorumluluk konusu bununla ilgili çok literatür takip etmeye çalışıyorum. Hukuk firmalarında da. Bu hakikaten hala muallak bir konu. Algoritma size bir şey tavsiye ederken geçmişteki verilere bakarak bir şey veriyor. Bir done veriyor size ve siz de bunu takip ediyorsunuz. Karakutu olayı çok önemli çünkü adı üstünde karakutu yani içinde ne var bilemiyorsun ve yapay zekanın verdiği kararı şeffaflık olmadığı için Anlayamıyorsun sadece sana bunu böyle yap diyor. İşte sorunlar da zaten birazcık da burada başlıyor.

Şimdi şu var abi yani yapay zekayı biz tarafsız diyoruz. Ki tarafsız olmalı ve büyük ölçüde de tarafsız ama ama eğitildiği veri setleri yanlıysa sonuçlar da yanlı olacak.

O zaman veri taraflı gibi.

Veri taraflı gibi. Siyahilerin kadınların işe alımlarda daha az öncelikli olmasının sonucuna ulaştı yapay zeka algoritmaları. O zaman da şunu dediler, ya dediler daha az kadın ve daha az siyahi o verimizde olduğu için bizim yapay zeka algoritmalımız beyaz erkeklere öne çıkıyor. Şimdi bu tarafı da var işin yani.

Bu dediğin neye çıkıyor abi biliyor musun? Veri ön yargısı denen tuhaf bir terminoloji giriyor şimdi hayatımıza.

Çünkü...

Kendisine sunulan veya kullanımında olan verilere bakıyor diyor ki ya bundan önceki beş bin projede baktım ben bunların yüzde sekseni düşük maliyetle gitmiş. O zaman sana da verdiği öneriler, tavsiyeler, talimatlar, çıkış yolları hep düşük maliyetli. Hadi nereden bilsin? Ucuzdur iyi milletin. Bazı bazı hikmetin konusunun şey yapay zeka.

Ama şeyi bilmiyor ki beş bin projenin beş bin proje üzerindeydim çalıştığım.

Ya yarısı çöktüyse?

Ya beş bin projenin kaçında beş yıl sonrası o döküldü ve kaçı dediğin gibi. Onu bilmiyor.

E tabi şimdi ya senin dediğinden devam ederek yapay zeka sanıyor ki bu beş bin tane proje başarılı oldu ve bunu başarılı kategorisine koymuş. İşte ondan sonra sana buraya bakıyor bunlar veya bu projelere bakarak sana tavsiye veriyor. O zaman şimdi etik mekanizmalar, denetim mekanizmaları tekrar devreye giriyor.

Kesinlikle abi bu işte explainable, explainable AI modelleri gündemde yapay zekanın neden o kararı verdiğini açıklayan sistemlerin geliştiğini duyuyoruz ki bu çok önemli.

Abi bunlar da hala daha bu sistemden şantiye inmedi. Ama biz de hala rapor verdim uyguladı diyen bir yapay zeka sistemi üzerine çalışıyoruz veya modeliyle devam ediyoruz. Sebebi sorunca da şöyle diyor bu kararı en uygun sayısal modelle hesapladım. Ama o zaman işinin... Hal ve tavırları var mı burada? Ne bileyim hava şartlarını dikkate aldın mı? Yükleneceği filanın temel rütbesi var mı? Falan filan. Şimdi bu söylediğin ya explainable AI konusuna IBM'in sayfasına girerse dinleyicilerimiz IBM'in sayfasında çok güzel ve basit bir şekilde explainable AI'nin ne olduğunu anlatmışlar. Oradan çok güzel, çok güzel şey...

Sen hep bunu bana hep söylüyorsun, ben daha bakamadım ama ona bakacağım.

Bu explainable AI'yi çok güzel anlatmış. Ya bu şey gibi hesap verebilir bir duruma gelmiş gibi sanki.

Aynen. Ya şimdi yapay zeka veriye bakar, bağlama bakmaz dedik ya. Zaten bu bağlamsızlık etik olarak en büyük çıkmaz abi.

Tabii yani insan doğasında hesaba kaçacaksın çünkü neticede insanlar çalışıyor. Yapay zekanın önerdiğini çoğu zaman insanlar sorgulayamıyor çünkü... Bu şeye geliyor, yapay zeka dedi herhalde doğrudur. Benden daha kötü bilecek değil ya. 10 milyonlarca kaynak tarıyor, en doğruyu çıkarıyor. Ya bu şey gibi otomasyon yanılgısı gibi bir hissiyat ortaya çıkıyor. Çok sistem böyle dedi.

Değişik geçiriyor.

Ki bunların veya bu argümanları boşa çıkarmak için chat chip'in altında bile yazıyor. Sana verdiğim bilgilerden yanlışlıklar olabilir. Hassas bilgileri lütfen sen bir kere daha kontrol et diyor.

Bravo.

Bizden daha yetişmiş.

Bravo. Bu durum çok daha tehlikeli sonuçlar ölçebilir. Özellikle mesela iş güvenliğini düşünsene abi. Düşün yani. İş güvenliğinde neler olabilir böyle bir yanlışlık? Şöyle bir hayal et yani.

Yapay zeka güvenli diye bir alanı mesela işaretlemiş. Sen de orada kolun dibinde bir yerde bir kaynak işi yapıyorsun. Çat diye bir şey oldu veya... İşte ne bileyim sertleştiğini sandığın betonun kalıbı düştü kafana indi. Halbuki sen güvenli bir bölgede çalıştığını zannediyordun ama güvenli değilsin. E kimse onu güvenli dedi yapay zeka. Haydi tut bakalım yapay zekayı kolundan.

Aynen. Şimdi abi yapay zeka güvenmek çok güzel ama körü körüne bir güven olmaması lazım. Hayatta hiçbir şeye körü körüne güvenmemeliyiz diye düşünürüm. Bu güven demeyelim de buna denetimli bir işbirliği lazım. Yani hani kontrolsüz güç tehlikelidir diye öyle bir reklam sloganı da vardı.

Kontrolsüz güç güç değil de tekerlek tekerlek.

Bravo bravo şimdi abi kontrolsüz yapay zeka da tehlikeli. Buradan böyle bir çıkarsamaya gidebiliriz.

Tabii yani hep en başından beri birinci günden beri konuştuğumuz şey şu. Yapay zeka inşaat işlerinin kararlarına tabii ki rol almalı. Destekleyici rol almalı. Etik bir süzgeçten geçmeden o karar uygulamaya girmeli.

Kesinlikle abi.

Burada da ne çıkıyor karşımıza? İnsan, insan, insan.

İnsan eli dokunacak.

Hibrit model insan eli dokunacak.

Çok kötü. Kodu yazanlar olur, veriyi sağlayanlar olur, sahada olanlar olur. Yani direkt makine üzerinden yürütebilmek bunu kolay olmayacak. Şimdi aklıma geçen program dedik ya, dronların ikinci bölümü için bu bir zamansız program.

Evet.

Şimdi aklıma o geldi yani iki yıl sonra bunu seyredip de dinleyip de şunu diyebilir dinleyiciler. Aa işte beklediğiniz gibi olmadı artık her şeyi yapay zeka yapıyor. Evet belki buraya da ulaşılacak bir gün. Ulaşılabilir. Ama şu anki verilerin öngörüsünde pek kolay olmayacağını söyleyebiliriz.

Zaten bizim konuşmalarımız bugün bu saat için geçerli.

Bugün elimizde olan verileri için geçerli.

6 ay sonra. Bir teknolojik devrim olur. Bütün bu konuştuklarımız... Bak konuş galip değil mi?

Bak bu mu o geliyor? Ya diyorum şimdi... Yani kitap... Şimdi kitabı hani yazdığım için... Kitabın bir basın tarihi var bilmem ne bakıyorsun. Ya adam bu tarihte bunu düşünmüş, yazmış olabilir. Bir şey yok. Ama şimdi abi podcastta kimse demiyor ki... Bu insanlar bu podcastta ne zaman çıkmışlar? Şimdi podcastta öyle bir... Onun için bence biz olabildiğince tarihsel şeyi de koyalım. Çünkü çok hızlı bir gelişme var. Durumu da var. Böyle bazen konuşurken aklıma, Allah'ım böyle mi olacak acaba? Bu önemli, olmaması da önemli, olması da önemli. Yani sonuç itibariyle biz bir öngörü yapıyoruz ve bir yayın başında da dedik ya bölüm için bir beyin fırtınası yapıyoruz. Yani bunları biraz daha hani böyle bir gözle bakmak lazım diye düşünüyorum.

Kimseye zaten bir şey dikte etmeye çalışmıyoruz. Burada sadece işte seninle benim karşılıklı olarak fikirleri çarpıştırmamız.

Öngörü.

Evet yani hissiyatımız, araştırmalarımızda neler bulduğumuzu bunları karşılaşıyoruz. Yoksa kimse dediğimiz gibi ne bir ukalalık, ne bir ders ermi, ne bir dikte hiç öyle bir şansımız yok. Ama tarihe not mu düşüyoruz? Evet kendi çabamızla bir şeyler yapmaya çalışıyoruz. Yani bu şeye benziyor. Bütün bu konuştuklarımıza istinaden yapay zeka tek başına muazzam bir güç değildir. Söyledikleri körü körüne takip edilmemeli. Yani günün birinde bina çökerse kardeşim yapay zekayı ifadeye mi çağıracaksın? Ne yapacaksın? Biz yapay zekanın dediklerini takip ettik. Aferin sana.

Öyle bir şey yok abi. Yani o ekrana bakıp beni bu kararı alan algoritmayla görüştürün diyemeyeceğiz ki abi.

Öyle bir şey yok yani. O zaman hadi bakalım şimdi bir 2025'e doğru, 2045'e doğru roketlerim 2025 diyorum. Şantiyeye girdin abi. Karşında ne bir insan ne bir başka proje insanı sadece kocaman dev bir ekran bu şey gibi bilim kurgu filmleri gibi oldu bugün kazı yapılmayacaktır altyapıda sismik mikroçatlak riski tespit edilmiştir tahliye önerilir hoppala yani hiçbir şey yok sadece bu mesaj var ekranda ve sen ne yapıyorsun yapay zeka bunu dedi ne yapacaksın girmeyeceksin ve nedir durum ekranına bakın diyemeyeceksin ki Kim aldı bu kararı?

Hangi algoritma? Getirin o algoritmayı önüme. Getirin ben bakayım bir sorayım ona hesap algoritmayı. Yok böyle bir şey yok.

Zaten sorun da burada başlıyor. Gelecekte kararlar tamamen yapay zekaya bırakılırsa eğer, çünkü bugün itibariyle konuşuyoruz biz ama hani ileri sardık ya 2040 ve 2045'te ne olacağını bilmiyoruz ki. Biz sahaya artık belki de hiç alakası olmayan bir mesaj bu. Sahaya müdahale edemez hale mi geleceğiz?

Abi şöyle bir şey var yani. Bazı kararları bence gerçekten yapay zekayı bırakmalıyız. Nedir bu? İşte iş gücü planlamasıdır, maliyetlerin hesabıdır, bütçeler, bütçe şartlarıdır.

Şey gibi, kendi işte tekrardan işler gibi.

Aynen, rutin, tekrarlayan işler. Aynı dediğin gibi yani veri üzerinden ölçülme edilmesi daha kolay olan işin içine sezginin girmediği, hissiyatın, deneyimin çok fazla girmediği noktalarda malzeme sipariş zamanının planlaması, bakım planları... Buraları abi bırakabiliriz diye düşünüyorum yapay zeka.

Kesinlikle katılıyorum. Yani yapay zeka bu aralarda bizden daha iyi. Bu hakkını teslim etmek lazım. Ama söylediğin gibi bazı kararlarda ne bileyim temel tasarım, güvenlik kriterleri, mimari ruh. Yani herhalde yapay zeka bir Zahha Hadid gibi bir şey çizmesi için birazcık daha yol var gibi diye düşünüyorum. Zahha Hadid'in çizimleri gibi. Mühendislik sezgileri. Yani orada birazcık bir dakika kardeşim demek lazım. Sanki burada hala insanın yaratıcılığı, gücü, öngörüsü, kapasitesi ve en nihayetinde kontrolü gerekiyor demek lazım.

Kesinlikle abi yani işin duygusu, sorumluluğu, estetiği insanda kalmalı. Zaten usullara girebilmesinin yapay zekanın çok da kolay olmadığını düşünüyorum. Yani yapay zeka evet hesap yapar hissedemez dedik ya. İşte tam o nedenle bazı kararlar bence hep insan tarafından verilecek diye düşünüyorum.

Kabul ediyorum.

İnsansız bir dünya hiçbir zaman olmayacak. Yani öyle korkunç bilim kurgularda insanı yok eden yapay zekalar falan pek onlara ben itibar etmiyorum. Sonuçta bir fiş çekme şeyimiz de olacak. Çok sık fişler çekeriz bu yapay zekanın fişini. Çekebilir miyiz?

Abi bunu konuşalım bak. Şimdi ben tabii şimdi konuya döneceğim ama dinleyicilerimize dinleyicilerimize iyi iş gelsin diye ben bunu da araştırıyorum. Yani yapay zekanın fişi çekilebilir mi?

Onu bir bölüm mü yapacağız?

Tabii tabii çok çok açacağım.

Sen de.

Yapay zekanın enerji ihtiyaçları gereksinimleri bunları da araştırıyorum.

Enerjiyi mutlaka konuşacağız.

Bunu konuşacağız. Çok çok manyak şeyler var. Yani tekrar hatırlatayım. Kolossusu konuşacağız. Bu 1976 filmini falan. Onları konuşacağız. Çok acayip şeyler var.

Haluk bir küçücük bir sözünü böldüm ama ben söyleyeyim. Depremi de.

Tabii depremi de konuşacağız.

Yapay zekanın deprem öngörülerine yönelik yaptığı çalışmaları. Evet. Bunu özel bir programda konuşacağız.

Deprem ocağında bizi vurmasın sonra.

Bizim işimize yarayacak. Deprem falcılığı yapmak...

Kesinlikle.

Yapay zeka ne yapıyor? Tabii.

Veya nasıl bir fayda üretebilir bize?

Evet. Yani ben mesela bu konuda çok... Türkiye'de bilmiyorum, Türk şeylerin medyasında böyle bir şeyle hiç karşılaşmadım. Ama birazcık araştırırsan meraklıları, dünya üzerinde bu konuda yapılmış çok güzel çalışmalar var. Hatta yanlış hatırlamıyorsun, daha iki sene önce benim şantiye dergisinde bu konuda bir yazımda oldu. Yani bu konu çok üzerinde çalışılmış. Yani depreme biz, evet tabii ki yapımızın sağlamlığı önemli, o bir olmazsa olmaz. Ama sadece... Filer nasıl gidiyor, filerin hareketleri evet okey ama yapay zekanın o filer üzerinden çıkardığı veriler üzerinden öngörüleri de yapabiliriz. Bir sürü şey var neyse. Depreme yönelik de bir program yapacağız. Yapay zeka ile ilgili de.

Kabul, kabul. Kesinlikle. Peki bu algoritmaların yapay zekanın üretmiş olduğu bu algoritmanın güvenliğini nasıl ülkesine vereceğiz?

Orası apayrı bir dünya. Çünkü model valide... Validasyon var, stres testlerimiz var, farklı senaryolarda karşılaştırmalı analizler yapabiliyoruz. Fakat burada sıkıntılı bir nokta var. Bazı sistemler kendi kendine eğitiyor. Yani öğrendikçe değişiyor. O zaman biz hangi versiyonla karar verdik diye takip edemez hale geliyor. Güzel de hukukta falan bu ciddi sıkıntı oluyor.

Tabii şimdi şöyle düşünsene. Yapay zeka sana dün aldığı karar bugün artık geçerli değildir veya uygulanamaz uyarısı veriyor. Bu neye benziyor? İşte isnat duvarı yaptığını sanıyorsun, sağlam olduğunu sanıyorsun. Bugün diyor ki yapay zeka o veriler veya o isnat duvarı yaptığın veriler artık geçerli değil. Onlar eski modeliydi. Buna göre yapman lazım. E bak kardeşim ben neye güveneceğim o zaman?

Tabii tabii tabii.

Yani kafanda insan onun harici sorular.

Bu arada geçen drone videosunda bahsetmiştim ve çok etkilendim. Sam Altman'ın bu TED röportajında gerçekten gözlerindeki korkuyu gördüm. Yani korku demeyeyim de yanlış oldu kelimeyi.

Kontrolü kaybetme hissi belki de.

Aynen diyor ki makineler tahminimizden çok hızlı öğreniyor. Önümüze günlerde büyük gelişmelere hepimiz hazır olmalıyız. Şunu demiyor yani biz şu işleri yaptık evet. Yani OpenAI sosyal medyası kurulacak alışverişe giriyor bunları söylüyor. Ama bir de diyor ki bizim de hazır olmayacağımız şeyler olabilir. Yani makineler çok hızlı öğreniyordu. Burası mesela tam heyecan da veriyor korkutuyor da. Sonuç daha bu sistemler değişiyor falan derken aklıma geldi onu da söyleyeyim. Şimdi bir daha veri zorlukları var. Büyük ölçekli projelerde sistemine eğitildiği veri kümesi yeterince güncel değilse algoritma... Doğal olarak hani modası geçmiş tavsiyeler verebiliyor.

Son derece haklısın. Şimdi yakın zamanda bir şey okumuştum. Tam hatırlayamadım neresi olur ama yapay zeka tünel segmentlerini tasarımını eski metro hatlarının verisiyle önermiş. Sonra fark etmişler ki o eski hatlar aslında kil bir zemine ait. Yeni metro hatlarının zemini ise... Sert kaya. E şimdi ne oldu? Bütün bu tasarım çalışmaları çöp oldu gibi. Çünkü yapay zekanın dayanmış olduğu veri gerçekte karşılaşılan veya olması gereken veriden farklı. Dolayısıyla ortaya çıkan zarar inanılmaz boyutlarda tasarım firması olarak. Çünkü bugün abi büyük projeler tasarım firması dediğin firmaları tuttuğun zaman senden bir projenin tasarım için 150-200 milyon dolar parlar alıyorlar. Bu söylediklerim milyar dolar projeler elbette. Bu tip bir projede tasarladın tasarladın tasarladın ya kusura bakma zemin farklıymış.

Algoritma yerel bağlamı anlamamış diye aradan sıyrılıp gidemezsin.

Çok çok acayip. Gidemezsin abi. Yani tabi bütün bunları konuşuyoruz aklıma şey geliyor. Kardeşim dünyada bu kadar kötülük varken siber güvenliği ne yapacaksın? Yani bu yapay zeka ile ilgili şantiyenin verileri artık biliyoruz bulutlarda dolaşıyor. Yapay zeka sistemine bir saldırı olursa. O kararlara güvenebilecek miyiz? Ne yapacağız? Nereden bileceğiz güvenli olduğunu ya da soruyu başka türlü sorarsak?

O da çok ciddi bir konu. Düzeni düşünmemiz gereken bir konu. Yani şöyle örneklelim ki işin ciddiyeti biraz daha şey olsun. Mesela ne bileyim biri sisteme ekledi beton katkısını binde beş yerine yüzde beş girdi.

Uf!

Şimdi ne olacak? Veyahut da tam tersi.

Evet olması gereken den azaldı.

Yani çok daha az girdi. Yani... Projeyi değil hayatları da riske katan bir şey. Süper, gönlük önemli.

Bu şekilde düşündüğümüz zaman yapay zekaya evet bir yetki verirken muhakkak bunun koruma kalkanlarını çok iyi ayarlamamız lazım. Yani illa parola, şifreler falan değil ama etik bir şey duvarı gerekiyor. Böyle bir etik bir koruma duvarı gerekiyor. Kontrol etmemiz gerekiyor. Nasıl olacak bilmiyorum ama zaman gösterecek. Bir şekilde bu iş laptop altına alınacak. Kurallar manzumesi mi yapılacak ne yapılacak bilmiyorum ama yapay zekanın kullanımı bir şekilde kontrol edilmeli.

Kesinlikle abi bir de şöyle bir şey var insanların yapay zekanın verdiği kararları daha sorguladıkları gözleniyor bu yapılan araştırmalarla da sabit. Ben çevremde de bu şey yani yapay zeka böyle biri putlaştırılıyor ve abicim diyor bu makine dedi doğrudur diyor bitti diyor. Şey var televizyona çıkan doktorların önerdiği şeyler profesör dedi falan şeklinde ki o zamanki şeyler doğruydu yani bugün biraz o işler ucuzladı belki ama makine dedi doğrudur psikolojisi yani o eski bizim bildiğimiz otomasyon otorite yanılgısı evet böyle bir şeyimiz de var Halit Uçuş evet bu dediğine komik bir örnek vereyim şimdi geçen gün dün ya da evvelsi gündü Bir şeyler hesaplamaya çalışıyorum.

Hesaplamaya çalışırken eşim dedi, manyak mısın sen de yapay zekaya sorsan herkes yapay zekaya soruyor. Ben dedim ki niye yapay zekaya? Ben yapabiliyorum bunu. Artık iyice kendimi teslim edeyim yapay zekaya o zaman yani. Çünkü insanlar genelde yapay zekanın daha akıllı olduğunu düşünüyor veya bu hisse yaşıyorlar. Ama unuttukları bir şey var. Yapay zekadan edici de insan verisiyle besleniyor. Dolayısıyla... Onun akıllı veya akıllı olup olmadığını bizim verdiğimiz veriyle ölçmek lazım. Hani şu senin sinaps konusu var diye hocam yapay zeka hala bizden daha geride beyni kullanıp kapasitesine göre.

Evet evet.

Hep o aklıma geliyor.

100 trilyonu 100 trilyonu.

Evet.

Yani kısaca sinaps diyedik şey yaptık insan beyninde 100 milyar şey var nöron var 100 trilyon sinaps var ama chat gpt 2 trilyon sinaps üzerinden bunu yapıyor. Yani %2 üzerinden. Ve biz 20-30 watt harcıyoruz harcadığımız enerji. Chat GPT, yani chat GPT, yapay zeka diyelim. Ki yani chat GPT bu rakamı açıkladığı için onun adını veriyorum. 1 gigawatt enerji de yapıyor.

O yüzden teşekkür etmeyin diyorlar ya.

Enerji harcamayın diyorlar. Enerji harcıyoruz diyorlar. Teşekkür ederim. Mesela düşünsene Haluk. Haluk işte konuşurken bana teşekkür etmeden konuşuyor. Yani çünkü enerji harcanırsa bitersin. Burada devrilir gidersin. Öyle bir şey var mı ya? Diyebileceğim kadar güçlü bir enerji sahipken şeyin böyle bir şeysi var, sınırı var. Yapay zeka evet gelecekte çok etkili olacak ama biz onu nasıl, nerede, ne kadar kullandığımızı iyi tanımlamamız gerekiyor. Aksi halde hani bu böyle gelecek başladı derken kontrolü kaybetmiş de olabiliriz.

Evet yani bunu belki de şu şekilde benzetmek gerekiyor. Yapay zeka geleceğimizin parçası olacak evet ama rehber kesinlikle değil. Kaptan köşkünde hala biz oturmamız lazım. O en fazla çok iyi bir kopilot olabilir. Yani insan her an her şekilde devreye girebilmeli.

Kesinlikle haluk. Yani bu anlamda işte ekip çerçeveler çok.

Evet.

Denetim sistemleri, uluslararası regulasyonlar ki Avrupa Birliği'nin bu konuda çok iyi çalışmaları var. Umarım Avrupa'nın istediği gibi olur. Çin'le Amerika'nın ben aynı samimiyette olduğunu pek düşünemiyorum.

Katılıyorum.

Yani açık algoritmalar, algoritmaları ne kadar açabilirsek o kadar iyi. Bunların hepsi bu içinde bulunduğumuz yolculukta şart. Evet çok heyecanlanıyoruz, çok güzel günler gelecek diyoruz ama çok ciddi etik anlamda da, her anlamda ciddi sıkıntılar da var. Ben galiba ilk bölümde söylemiştim ama bu Harari'nin... Next Sus'unu özellikle bu anlamda okumanızı tavsiye ederim. Özellikle bu yapay zekanın getirebileceği tehlikelerin altını çok güzel çiziyor. Ve hani biraz da geç kalmamak gerektiğini şey yapıyor. Ben şimdi o harariye girersem hiç susmam.

Duruyorum sana bırakıyorum hemen. Tamam zaten bütün bu zamana kadar konuştuklarımıza dikkate aldığımızda yapay zekanın ilerlemesini düşündüğümüz zaman evet elimizde teknoloji olacak. Ama yapay zeka teslim olursak o zaman yön duygumuzu kaybetme ihtimalimiz ortada.

Kesinlikle ve son bölüme geldik Ali Uçum. Sanki böyle beton dökmeden sonra ölçümleri yapıyor gibi hissediyoruz.

Valla orasından burasına çekiştirdik yapay zekayı. Dedikodusunu da yaptık. Arkasından konuştuk. Ne yapacağız ne edeceğiz bunları anlamaya çalışıyoruz. Çalıştık ama ciddi olarak yapay zekanın bizim hayatımızda ve teknolojik olarak, meslek olarak, inşaat sektöründe kaplayacağı yeri düşünürsek kontrol insanlarda olmalı. Bir kere daha söylüyoruz o hibrit, hibrit, hibrit önemli.

Yani ben şöyle bir manşet atacağım. Hiçbir şey artık eskisi gibi olmayacak. Neresi kanalize, ne iş gücü planlaması, malzeme operasyonu. Ne de hayatlarımız hiçbir şey artık eskisi gibi olmayacak.

Tabii yapay zekanın son sözü söylemesi konusu bugün tartışmalı belki yarın da tartışmaya devam edecek. Ama bu iş sadece hesap kitap işi değil. Sorumluluk ve bağlam yani konteks dediğimiz ve birazcık da vicdanla alakalı. Kesinlikle. Ve her şeye rağmen insan kontrolü her daim yapay zekanın üzerinde olmalı.

Ya özellikle bu etik çıkmazların çıkmaz sokaklara girdik dedik ya bize şunu söylüyor abi. Yapay zeka yanılabilir. Ve hata yaptığında onunla konuşamaz. İkna edemez. Pişman olmaz böyle bir şey. Ama bir mühendisi ikna edebilirsin. Ona durumu anlatabilirsin. Ona yeni veriler sunabilirsin. Düşüncesini değiştirebilirsin ama yapay zekada bu şey yok.

Evet yapay zeka tabii en nihayetinde bugüne kadar konuştuğumuz gerçeklikte o. Ortaya çıktığına göre güçlü bir ortak. Ama karar masasında hala etli, canlı, kanlı bir insan olması lazım.

Kesinlikle.

Ya otursa ne olur?

Diyersek Robin Batman'in yerine geçerse Joker şehriyle geçirir abi. Bak bu sayede sinemadan bana örnek verdin.

Tabii filmi hatırlayanlar Robin böyle heyecanlanıyordu ama sonra boynun ölçüsünü alıyordu birinde Batman'in yerine geçtiği için. Tabii abi çok güzel bir hedef oldu bu.

Zaten kaptırmamak lazım.

Yapay zekadan etçide Batman'ın Robin'i olmamalı. Olmalı düzeltiyorum yanlış söyledim. Yapay zeka Batman'ın Robin'i olmamalı. Çünkü Robin o filmde Batman'ın iyi bir yardımcısı olarak çalışıyordu. Kıyafetleri, havalı böyle alet ekipmanı çok sağlam. Ama dümen Batman'deydi.

Kesinlikle abi biz işte o Batman, o Batman biz. Insan mühendisleriz. İnsan demeye de artık böyle bir sıfatla mühendisin önüne koyuyoruz yani. Öyle bir yapay zekaya ihtiyaç duyuyoruz.

İnsan deme ihtiyacı duyuyorsun artık.

Deme ihtiyacı duyuyoruz evet. Yani tecrübelerimizle, değerlerimizle, sahadaki sezgilerimizle Batman biziz.

Tabii belki de dinleyicilerimize son mesajlarımızdan bir tanesi şu olabilir. Tabii ki hiçbir şekilde yapay zekaya karşı değiliz. Zaten aksi olsa podcastleri yapıyor olmazdık. Tabii ki. Ama yapay zekayı kutsallaştırmanın... Çok akılcı bir davranış olmadığını aslında yapay zekaya şöyle muamele yapmak lazım. Ona akıl danışılabilir ama son kararı yine insan kendi vermesi lazım. İnşaat sektörü de bu düsturla devam etmeli.

Harika söyledin Ali. Şimdi şu var yani çünkü her karar sadece doğru veya yanlış değil. Hayatta da böyle. Tek başına doğru veya yanlış yok. Bunlar hep iç içe giren akışkan kavramlar. Bazen doğru ama riskli. Bazen yanlış ama insani olabilir. İşte bu nüanslar henüz yapay zekayı irde demiyor. Bunun için bizim insana ihtiyacımız var.

Şey gibi, şantiyadakileri kovup sizi kovdum hepinizi. Sizin yerinize yapay zekayı işe aldım. Hiç benden mırın kırın da etmiyorlar, çalışma azıcık etmiyorlar falan. Acayip bir durum.

Aynen, aynen. Dediğin çok doğru. Yani sen beni çıkarıp yapay zekaya atamak gibi bir şey söz konusu olamaz. Katılıyorum sana.

Dengeyi gözetmemiz gerekiyor.

Beraber çalışacağız, birlikte dengeyi sağlayacağız diye düşünüyorum.

Evet. Onu toparlayalım galiba değil mi birazcık? Evet abi evet konuştuk baya konuştuk.

Çok uzun bir bölüm çarptık.

Fena olmadı. Yani her zaman olduğu gibi yapay zeka hayatımızın her alanında yer almaya devam edecek. Ama bunun etik kurallara bağlanması, kontrolünün olması çok önemli. Bu da ancak insan kontrolü ve denetiminin olmasıyla başarılacak bir durum şu anda.

Kesinlikle. Dinleyicilerimize yine çok bölümde söylediğimiz gibi fikirlerinizi, düşüncelerinizi bize yöneleceğiniz bölüm önerilerine et dijital tuğla. Her yerde öyleyiz galiba değil mi?

Evet dijital tuğla. Instagram, Spotify, Apple.

Apple, YouTube, LinkedIn de var galiba.

LinkedIn'de de paylaşıyoruz.

Bizim kişisel, Haluk'ta benim kişisel hesaplarım dışında dijital tool'ımızın da böyle bir hesabı var. Tool'ımızın hepimizin dijital tool'ası. Buralarda notlar düşerek, yorumlar yaparak katkıda bulunursanız bu program dediğim gibi hepimizin programı ve çok daha ileri gitmemizi sağlayabilirsiniz diyorum.

Evet inşallah herkese hem eğlenceli hem de eğitici, öğretici bir içerik sunabilmişizdir. Biz burada çok eğlendik.

Aynen.

İnşallah size de iyi gidecek.

İnşallah bu güzel enerjimiz size de geçmiştir diye düşünüyoruz. O zaman gelecek programlarda görüşmek üzere diyelim Ali Bey.

Peki teşekkürler. İyi günler.

Sağ olun. İyi günler.