Dijital Tuğla - Bölüm 4: Makineler Kazaları İnsanlardan Daha mı İyi Önler?

Yapay zekanın inşaat sektörüne var olan ve gerçekleşmesi çok muhtemeldiğinin etkilerini tartıştığımız, en son teknoloji ve trendleri konuştuğumuz, gerçeklerle akış olmayan şeyleri, söylentileri ve bilim kurgu romanlarının dikkate almadığımız, hatta bunun tam da aksine yapay zeka dünyasında neler olduğunu anlattığımız Cem Kafadar ve Harika İllimler tarafından hazırlanan İncel Tuğla podcastimize hoş geldiniz.

Tekrar hoş geldiniz bence. Bugünkü bölümde inşaat dünyasında epey tartışılan bir konuyu masaya yatıralım diyoruz. Yapay zeka destekli iş güvenliği. Makineler gerçekten kazaları insanlardan daha mı iyi önleyebilir? Yoksa biz teknolojiye fazla mı güveniyoruz? Fazla mı gözümüzde? Büyütüyoruz. Bu podcast'ta hazırlanınırken gördük ki soruların olası cevapları düşündüğümüzden hayli karışık değil malum. Ben biraz uzattım galiba gelişi.

Evet çayımızı aldık şimdi hazırlasın tuşa. Şimdi tabii abi sen diyorsun ya tartışılan konu diye tartışılmayan konu yok herhalde tahmin ediyorum. Şimdi şantiyeleri düşündüğümüz zaman şey gibi değil mi? Buğbit uzaklarıyla dolu yer gibi.

Her gün böyle.

Ya herhalde ayağını çivatmayan adam yoktur herhalde orada şantiyede. Şimdi... Gerçekten yapay zeka acaba bize bu konuda bir yardımcı oluyor mu? Bir yardımı var mı? Varsa harika bir şey değil mi bu? Bunu düşünmek bile... Kesinlikle. Ama diğer yandan kaynak... Düzeltiyorum. Yapay zeka kaynaklı problemleri duyuyoruz. O yüzden şunu sormamız gerekiyor. Ya bir kahraman mı var yanımızda? Yoksa yeni bir sorunla mı beraber yaşıyoruz?

Doğrusun. Şimdi böyle güvenlik deyince ilk aklına... Şey geliyor kameralar geliyor işte kameralar bakacak baret giymeyenleri kemer giymeyenleri tespit edecek gibisinden ama giyilebilir teknolojilerden tutalım oradaki sensörlerden tutalım dronlara kadar her şey bu sistemlere entegre çalışabiliyor bir baret hiçinin nabzını ölçebiliyor yorgunluk seviyesini analiz edebiliyor yani böylece biz potansiyel bir risk ortaya çıkmadan önce Önlem almak mümkün hale geliyor. Yani daha şey önlem alabiliyoruz. Bu da bize reaktif değil, hep arzu ettiğimiz proaktif bir güvenlik anlayışı sunuyor diye düşünüyorum Ali Çum.

Çok güzel söyledin. Sen böyle şiir gibi konuşunca aklıma hep filmler geliyor. Şimdi azınlık raporu filmini hatırlarsın belki Tom Cruise'un Minority Report. Şimdi orada da o cinayetler olmadan önce, suçla işlenmeden önce üç tane kahin buluyordu, topu işliyordu. Hadi bunu yakalayın diyordu. Şimdi tabii gerçekten de sistemde önleyici bir faktörün devrede olması tarif edilmez bir avantaj olsa gerek. Yani eskiden bir tehlike oluşur onu gözlemler ardından da müdahale ederdik. Ama şimdi yapay zeka diyor ki kardeşim bak burada bir tehlike olacağı, olabileceğini öngörüyor, tahmin ediyor ve bunu sana diyor. Ne bileyim zeminde bir kayganlık riski varsa sensörlerle bunu tespit edip sana gönderiyor ki... Sen de ciddi kazaların önüne geç.

Kesinlikle. Düşünsene ya. Mesela artık şantiyede birden fazla noktada aynı anda gözlem yapabilen, hiçbir detayı atlamayan bir dijital göz var. İnsan gözünün dikkati sınırlı bir yere kadar biz görebiliriz ama yapay zeka bunu aşabiliyor. Hem iş yoğunluğu olan zamanlarda hem gece vardiyelerinde aynı kaliteyle gözlem yapabiliyor bu korkunç bir olay. Hatta hava koşulları değişse bile sistem çalışmaya devam ediyor. Insan sağlığı açısından müthiş bir kazanç diye düşünüyorum Aliço.

Bak yine aynı yere geliyorum. Abi şimdi bunları konuşuyoruz ama sanki Hollywood'un yaptıklarını düşününce de biz acaba bunları bu filmleri seyrettik daha yeni mi yaşıyoruz diye demekten de kendimi anlamıyorum. Şimdi sen gözledin ya Kartal Göz diye bir film vardı. Yani bir manyak bilgisayar her şeyi ele geçiriyor. O bilgisayarı yaratan... Adamı öldürüyor, onun yerine geçmesi için kardeşini esir alıyor falan böyle tuhaf olaylar silsilesiydi. Şimdi yapay zeka böyle alışkanlıkları analiz ediyor. Sağdan ömte o bittiğini, bir işçi bir günde neler yapıyor, rutini nedir, o gün alışalımadık bir şey yapıyorsa bunu bir anomolik davranış diye kaydediyor, not alıyor ve götürüp bunu raporluyor yöneticisine. Diyor ki bunda şöyle oldu, böyle oldu. Amaç ne? Olası iş kazanma önemi. Yani düşününce şey gibi, korku filmi gibi hissediyor insan kendini ama sağladığı fayda herhalde tahmin ediyorum yaşadıkça göreceğiz. Büyük olacak diye düşünüyorum.

Kesinlikle. Ya bir de şu güzel değil mi abi? Sadece işçiyi değil, ekipman ve aracı da denetliyor.

Tabii ki.

Çünkü onlarda da sorunlar oluyor. Mesela ne bileyim iş makinesi düzenli bakım görmeyirse sistem bunu kaydediyor, devre dışı bırakıyor. Ya da forklift tehlikeli manevralar yapıyorsa analiz edip Raporluyor dikkat et bu sohbetlik delirdi diyor.

Yani bir yerde konuşuluyor.

Bir nevi işte bir proje yönetiminde konuştuk ya. Proje yöneticisinin asistanı diye. Bu da bir nevi şantiye asistanı. Zaten yapay zekayı belki biz hep bir asistan gibi konumlandırmalıyız diye düşünüyorum harika.

Kesinlikle katılıyorum. Tabii yapay zekanın işlediği veriyi arşivleme kapasitesini ve boyutunu da hesaba katmamız lazım ki bu çok önemli. Eskiden... Risk değerlendirmeleri işte ne bileyim kağıtlarda kaybolurdu. İşte her işe yaparken bir önceki projeden yalınmış yapılmış risk raporları belki şey yapılırdı, takip edilirdi ama şimdi bütün verileri anlık olarak dijital ortamda topluyor ve kaydediyor ve analiz ediyor yapay zeka. Sistem de bu verileri zaman içinde kendini geliştirmesine sebep oluyor. Yani hangi bölgeyde, hangi iş türünde daha çok kaza olduğunu... Tabii, tabii. Düzelt, özür diliyorum. Öğrenip... Risk artılarını çıkarabiliyor. Böylece sen de ömrünü görebilecek şekilde planlama yapabiliyorsun.

Aynen. Yani Haluk şöyle ya, sadece bugünü değil, yarını da kapsıyor yaptığı iş. Yani bu neyi getiriyor biliyor musun? Stratejik düşünmeyi. Yani proje yöneticilerinin, firma sahiplerinin şirketleriyle ilgili daha stratejik düşünmelerini sağlıyor. Bir yandan işçi sağlığını koruyor, diğer yandan maliyetleri düşürüyor, sigorta maliyetlerini azaltıyor. Ve yani hep o proje yönetimini 3 aya diyoruz ya maliyet kalite zaman diye. Bu üçünü de hem zamanı kısaltıyor daha kısa zamanda daha iyi iş alıyoruz. Hem maliyetimizi düşürüyor hem de beraberinde kaliteyi getiriyor. Zaten bu üçünü sağlayan bir buluş yaptığın anda o müthiş bir olay oluyor ki yapay zeka da bu değil mi yani sonuçta?

Tabii ki. Zaten birçok özellikle uluslararası ortamlarda veya platformda çalışan... İnşaat firmaları artık veri destekli güvenlik modellerine geçiyorlar. Böyle bir terminoloji doğdu. Bu yaklaşımda artık kararlar sadece orada çalışan kişinin tecrübesine göre değil, bir de ortaya çıkan verilerin analizlerine dayanıyor. Ne elde ediyoruz? Daha objektif, daha az hatas içeren kararlar veya kararların alınmasına olanak sağlıyor. Tabii bu teknolojinin doğru kullanılması, ihtiyaçlara göre doğru kalibre edilmesi ve yorumlanması da çok önemli. Ortada bir veri varsa ve bu veriye dair doğru analiz yoksa o zaman yapay zekada bir şey yapacak durumda çünkü o veriye bağlı çalışıyor.

Bravo, buraya bir sizin veri.

Bu şey gibi hani bizim meşhur kuş grubu arabalar vardı. Adını sen demiştin de. Onlara Porsche motoru takmak gibi. Aramanın kapasitesi var mı? Porsche motoru yetmiyor ki. Dolayısıyla yapay zekanın kabiliyeti ve kapasitesi güçlü ama ona doğru veriyi verebilmek çok önemli.

Ya geçtiğimiz aylarda... Duymuşsundur bilmiyorum ben yine böyle çok karıştırdığımdan Japonya'da ilginç bir olay yaşanıyor. Evet okumuştum onu. Bir vinç aksamında abi mikroskopik çatlakları yapay zeka tespit ediyor. İnsan gözüyle fark edilmeyecek bir detay bu mikroskopik dediğim gibi çatlaklar. Sistem durumu raporluyor alan boşaltılıyor ve incelemelerde sistemin haklı olduğu anlaşılıyor ve bu da ne oluyor abi? Ciddi bir felaketi önlemiş oluyor işte yapay zekanın. En güzel yakın zamanda hayata geçirdiği bir şey.

Büyük ihtimalle Japonlar ona muazzam güvenlik korumaları, sensörleri takmışlardır. Ve oradan gelen verileri inceliyorlardır tabii ki. Belki çok ince bir amperlik bir akım geçiriyor. Belki bir süreksizlik yakaladığı zaman aman fatik olmasın diye, kırılma olmasın diye. Operasyon durduruyor. Tabii gerçekten bu tip örnekleri dediğiniz zaman yapay zeka hayat kurtarıcı gibi gözüküyor. Ama dikkatli olmakta fayda var. Yapay zeka da gelişiyor hala öğreniyor çünkü biz verileri yükledikçe o da öğreniyor. Her zaman doğru kararı vermeyebilir. Tabii bunu aklımızın bir kenarına koymamız gerekiyor.

Şimdi yapay zeka işçi davranışlarını izliyor işte yorgunluk seviyelerini analiz ediyor. Hatta sı sı için ısını bakıp ateşinin çıkıp çıkmadığını görüyor öneriler sunuyor bu çalışan arkadaş mola vermeli diyor bilmiyorum o arkadaş demiyordur herhalde ben diyorum şu iş alanı yeniden düzenlenmeli diyor ve böylece önleyici yaklaşımlar da veriyor diyor şey yapıyorum sen biraz önce dedin ya doğru karar vermez yanlış verilerle diye şimdi aklıma şu geldi şimdi mesela yapay zekayı daha yaşı genç işçiliği verileriyle beslediğimiz zaman daha yaşı ileride bir işçinin dinlenmesini bir hata olarak görebiliriz.

Aynı fiziksel kapasiteyi beklediği için doğru söylüyorsun.

Aynı çünkü genç verisiyle veri şey yapmış. Keza kadın erkek verisi için de benzer şey var. Yani şu anda aklıma geldi bu sen söylediğin için katkıda bulunuyorum.

Katılıyorum katılıyorum. Şimdi hocam bir de madalyonun öbür yüzüne bakmaya deneyelim istiyorsak. Harika işler yapıyor gücün karanlık tarafı. Yapay zeka harika işler yapıyor ama ya hata yaparsa yani şunu hiç aklımızdan çıkarmamız lazım. Bu sistemler insan kontrolü dışında davranırsa hatalı kararlar verebilirler. Bazı senaryolarda risk değerlendirmesi abartılı da yapılıyor olabilir yapay zekanın. Demin örnek verdin ya genç işçi yaşlı işçi örneği gibi veya yaşın almış işi gibi de. Bu da eğer karar yanlış olursa ciddi zaman ve para kayıplarına yol açabilir. Bundan kaçınmak gerekiyor.

Abi bu söylediğin benzeri Kaliforniya'da yaşanıyor. Yakın geçmişte. Şantiyeyi sis basıyor. Yapay zeka bunu yangın dumanı sanıyor abi. Düşünebiliyor musun? Acil durum alarmı veriyor. Sis basmış. Sonuç ne oluyor? İşte operasyon duruyor. Onlarca kişi işi bırakıyor. Saatler sonra gecikme yaşanıyor. Olmayacak bir şey değil ki. Siz lan yangın dumanını nasıl ayıracak? Yani tabii ki o koku sensörüyle falan çözülebilir. Belki bu kadar artık dramatik şeyler olmayacak.

Ama ilk granda ağacı burnuna bassın istene bir yer durduğun durumda.

Çünkü yapay zeka bunu veriyor sana. Sizi duman görüyor.

Tabii şimdi bu verdiğin güzel bir örnek. Ama sadece bir örnek. Bazen sistemler ortada hiçbir tehlike yokken işi durdurmayı önerebiliyor. Mesela düşününse ne? Zamanında zamanla yaşanan bir proje desin zamanı karşılaşıyorsun ve yapay zeka durup dururken de ki burada bir risk var. Ay daha diyorsun nereden çıktı bu şimdi ve bütün sahayı kapatılmasının uyarısını veriyor. Halbuki sen tecrübeli bir projenin dışısı olarak baktığın zaman diyorsun ki bu önlenebilecek veya üstesinden gelebilecek bir problem değil. Yani sen olsan o projeyi durdurmazsın ama yapay zeka durdur diyor. Devasa bir proje düşün. Bir günlük durmanın maliyeti milyonlarca dolara mal olabilir.

Haluk'cığım bunu bizim çok bilmiş İSG uzmanlarımız da yapamıyor bazen. Kraldan kralcı oluyorlar ya. Yani ben tabii hepsini kapsamıyorum ama böyle bir tehlike de var işte kapıdaki bekçiye diyorsun kimseyi alma bilmem ne yap falan. Adam fabrikanın sahibini içeri almıyor falan yani buna benzer bizim bazı... Aralayış öyle böyle geçebilirsin. Robotlardan daha sıkıntılı olabiliyor. Yani insan da bunu yapmayacak garantisini ben veremiyorum. Gördüğüm 40 yıl içinde mesela. Tabii bunun biraz işin esprisi bu. Yani sonuçta tabii şu karar vermek lazım. Bu bizim için bir rehber mi olacak yoksa karar verici mi olacak? Yani ben burada sadece sistemin tehlike olabilir diye bir bilgi sunmasını ama kararı yine bizim... Sevgili insanlarımızın vermesi gerektiğini düşünüyorum. Çünkü işte biraz önce Kaliforniya'daki örnekteki gibi... ...siz mi duman mı arasındaki farkı... ...yapay zekanın anlayamama tehlikesi var abi.

Doğru söylüyorsun abi. Bir başka burada belki de dikkat etmemiz gereken konulardan bir tanesi de... ...yapay zekanın veri bağımlılığı. Çünkü ne kadar akıllı olduğunu düşünsek de, öngörsek de veya hissediyorsak da... Yapay zeka beslendiği veriye göre kararlar alıyor veya analizler yapıyor. Geçen yıl bir haber okumuştum. Yaşlı bir, senin de söylediğin gibi, yaşlı işin davranışı sistem tarafından yorgunluk olarak söylenmişti ama gerçekte öyle değildi. Yani nerede elinde olsa yapay zeka gidip, ya hemşerim neyin var diye soracak duruma gelseydi keşke falan diyesi geliyor insanda ama... Buradaki analizi yapay zekaya verilenin verinin çok hassas ve güncel olması gerekiyor.

Kesinlikle şimdi bu olmadığında abi hem o veriye göre yapay zekan yanlı davranabiliyor ki bu Amerika'da işte karşılaşılan kadın çalışanlar erkek çalışanlar arasındaki ortaya çıkan sıkıntı yine siyahiler beyazlar arasında çıkan sıkıntı çünkü sistem Erkek ve beyaz çalışanı tercih ediyor. Ve o zaman da soruyorlar yani sen niye böyle yanlı yaptın dediğinde tabii programı yapanlara. Çünkü diyor ben daha çok beyaz ve erkek verisiyle beslendiğim için sistemimde bunu öncelik tanıyor diyor. Mesela buralar çok tehlikeli. Şimdi bu aslında kötü niyetle yapılmamış. Ama beni korkutan yine girmeyelim çünkü başka bir konuyu şey açıyorum ama algoritmaların art niyetle yapacağı bir takım. Seçimler. Ya kafayı taktı bursalılara işe alma dedi. Oraya bir algoritmaya bir şey yazsın. Al bakalım. Yani bize bir de işin bu tarafı var.

Yani anlatabiliyor muyum?

Tabii tabii.

İşin psikolojik yönünde çok önemli söylediğin gibi. Şimdi düşünsene sen büyük bir firmada çalışıyorsun. Yapay zeka senin iş süreçlerinde önemli bir rol alıyor. Ve sık sık hata yaptığına şahit oluyorsun veya... Verilen kararın uyulmaması yönünde bir başka karar çıkıyor. O zaman diyorsun ki, kardeşim bu yapay zeka sürekli hata yapıyor. Bir güven azaltıcı faktör ortaya çıkıyor. Bu şeye benziyor, yangın alarmı çalıyor çalıyor yanlış alarm gibi. Aman bu alarm yine yanlıştı nasıl olsa diyorsun. Hani yalancı çobanla kurt örneği gibi. Dolayısıyla yapay zekanın hata yapmasının... Sıklığı ya da frekansı ona olan güveni zedeleme konusunda ciddi ciddi şeyler neyse endişeler ortaya çıkarabilir. Hatasız çalıştırılması ya da hata belki hatasız çalışması mümkün değildir bilmiyorum. Yapay zekanın yazılım uzman değilim ama hatasız çalışması daha az hata yapar. Evet.

Daha az sıklıkta hata yapar.

Evet. Ona olan güveni muhakkak artıracaktır.

Şimdi mesela ben bunu Sen de yaşamışımdır. Planlama gözüyle baktığımızda plandaki hatalar tabii işte o sağdan gelen veriyle falan bağlantılı muhakkak planlamacın hatası değil belki ama planı olan güven sarsıldıktan sonra artık iş programını sen ne kadar revize etsen kimse ona inanmıyordu. İşte burada da aynı benzer olay. Şimdi abi daha kritik bir yere gelelim diyorum. Bu hacklenme konusu, siber güvenlik konusu bu feci bir şey yani. Bir güvenlikten güvenlik dışındaki başka bir sistemin de eklendiği, sabote edildiği ve bunun şeyse mesela ben ha bu bu şey gibi değil mi?

Sürekli şu verileriniz çalındı, bu verileriniz çalındı diyoruz ya.

Tabii tabii bir de şöyle bir şey var. Mesela ben bir ülkeler arası savaşta veriyle saldırılacaksa hava alanlarına saldırmak isterim. Yani şöyle havaalanındaki sistem bozduğun andaki düşünsene felaket.

Bütün mobiliteyi sıfırlıyorsun.

Birbirine çarpıyor, işte yolcuların yaşadığı şey ayrı. İşte madem gidecekleri mardine yolluyor, öbürünü bilmem ne yapıyor. Korkunç bir olay.

Bu şey gibi, bir şantiyenin alarm sistemini kıyasladığımız zaman, alarmı birisi susurduğunu düşün. Yani herhangi bir şekilde. İçeri kimse fark etmeden girebilir. Ama aynı şey burada da, kötü niyetli, kötü niyetli... Nasıl söyleyeyim korsan diyeyim artık bunlara. Yapay zeka sahte veriler yüklenirse yani veri manipülasyonu yapılırsa yapay zekanın kullanıp analiz etmesi gereken veriler amaçlarının dışında başka bir kümeyle değiştirilirse o zaman belki de şantiyede olan tehlikeleri görmeyip başka analizler başka sonuçlar üretebilir. Yani güvenlik açığı veya hacklenme konusu veya ne derseniz buna bu ciddi endişe yaratabilir.

Abi güçlü şifreleme. Düzenli güncelleme, anlık tehdit analizi gibi önlemler kesinlikle bir kere şart diye düşünüyorum. Yapay zeka fiziksel güvenliği sağlarken dijital zayıflık yüzünden felç olabilir. Çok büyük tehlike. Bir inşaat sahasında işte iş durduğunda ne oluyor? Burada abi şimdi en iyimser taraf ki ben bu detaylara o kadar hakim değilim ama kuantum bilgisayarlar. Kuantum bilgisayarlarla artık şifrenin... Çözülebilmesi mümkün değil diyorlar. Ben şimdi geçen chat GPT'ye sordum ya beni bana 10 yaşında bir çocuğa anlatır gibi anlat bu kuantum bilgisayarları dedim. Bana şunu söyledi ve aklımda da o kaldı 10 yaşında bir çocuk gibi. Bilgisayar sistemlerinin ana yapısı 1-0 doğru yanlıştan gider. Ama kuantum bilgisayarları hem 1 hem 0 görebilir diyor. Yine bu kadar anlayabildim yani. Daha ötesi yok bende. Ama özü şu yani... Şu kadar belki bu program için söyleyebileceğim şifrelemeyi kırmayı engelleyebilecek güce ulaşabiliyor. Tabi bunların çok pahalı olduğu ve işte Microsoft'muş diğer Amazon falan bunların hepsinin kuantum bilgisayarlar üzerine çok ciddi yatırımları olduğu konuşuluyor.

Hatta merkez yetsiz finansın bile bu işle riske girdiği söyleniyor kuantum bilgisayarlarla. Bravo bravo. Bitcoin tarafının falan. Bravo bravo. Bunu da ileriki günlerde, ileriki sunumlarda konuşuruz. Bu fonlamanın inşaat sektörüne ne gibi bir çığlaşıabileceğini tekrar konuşuruz ama şimdi tabii hep diyoruz ya yapay zeka bir veri motoru diye bu veri motorunun sadece dış tehlikelere veya işte hacklenmeye karşı korunması yetmiyor. İçeriden yani bilmeyen yanlış kullanan amacı dışında kullanan insanların ürettiği verileri de doğru veri gibi davranıp onların da O verilerden gelen bilgiyi de kullanma sonucu yine hata yapabilir tabii. Dolayısıyla buradaki yetkinlik seviyesi insanların hem kendi geliştirmesi hem de doğru verileri yapay zeka beslemesi çok önemli.

Tabii böyle bir saldırı, sabotaj gibi anlayabiliriz. Saldırı demeyelim de böyle bir hatayı. Bu sefer yapay zeka olan güven sarsılır. Çünkü insan psikolojik bir varlık yani yapay zeka gibi yapay zeka. 50 kere hata yapsa insan... O yine aynı davranımı biz iki üç kere yapaysakken sapıttığında hadi oradan diye elimizin tersiyle atarız onu. Değil mi?

Ya tabii şimdi abi sistem hacklenmesiyle ilgili olarak bu güzel örneklerden bir tanesi yine filmlerden geleyim. Bu Zorolüm 4 filminde vardı. Orada korsanlar bilerek ve isteyerek bütün altyapı sistemini hackliyorlardı ve ülke kabusu yaşıyordu. Şimdi... Verilerin gizliliği gerçekten önemli. Yapay zeka insanların işlerini, davranışlarını, sağlık durumlarını hatta yüz ifadelerini bile analiz edebiliyor. Ama düşünsene bunlar yanlış ele geçtiği zaman çalışan mahremiyeti ortadan kalkıyor.

Tabii tabii.

Anlatabiliyor muyum? Sadece güvenlik değil bir de etik sorumluluk da ortaya çıkıyor. Yani yapay zekanla... Zekaya güvenmek istiyoruz ama bu güveni nasıl test edeceğimizi de ortaya koymamız lazım.

Bu çok önemli yani yapay zekayı kurmak derken bunun siber güvenliğini de kurumsal bir öncelik haline getirmeliyiz diye düşünüyorum.

Evet. Evet. İnsanlar hala gerekmiyor. Şimdi yine geldik mi aynı konuya?

Milyon dolarlık sorumuza.

Şimdi bu kadar gelişmiş yapay zeka örnek. Deri varken neden hala insan diye tutturuyorsunuz kardeşim diye biri sorsa değil mi dinleyenler ya daha ne daha gıcık bir şekilde soralım güvenlik personelin yerini tamamen yapay zekaya teslim etsek yani teknolojik ilerliyor kabul ama insana gerek var mı hala diye sorsak abi ne diyeceksin o zaman ben çok net cevabımı veriyorum insan hiçbir zaman yani hiç bir zaman demeyeyim hep vazgeçilmezdir Hala da vazgeçilmezdir.

Dünyanın en iyi şeyini yapsak da işte değil mi geçen programda ben söyledim. İnsanın beynindeki nöronları bağlayan sinep sayısı 100 trilyon. Ama chat gpt de chat gpt çalıştıran sinep sayısı 2 trilyon. Yani yüzde ikisi. Ayrıca 1 gigawattlık. Bir enerji harcarken biz 20-30 wattlık enerji harcıyoruz ve hiçbir zaman bir dünyadaki enerji kaynakları bir insan beyni gücünde bir yapay zeka üretecek şeyde değil. Bir kere bu çok şey, bu bakın da insan vazgeçilemez çünkü şöyle düşünüyor, şimdi yapay zeka verileri analiz ediyor, güzel, çok güzel, tehlikeleri sıralıyor, öneriler sunuyor ama bağlamı tam olarak anlayamıyor. Sıkıntı o yani bir risk gerçekten Tehlikeli mi değil mi? Ya da tolere edilebilir mi? Bunları ayırt etmesi çok kolay değil. Son kararı birinin vermesi gerekiyor. Ya da nasıl söyleyeyim ne olursa olsun çok iyi tanımlamamız lazım bize. Bizim bu riskleri ama ne kadar iyi tanımlasak da bir insana ihtiyacımız var. Çünkü yapay zeka hissetmiyor ve sezemiyor.

Evet. Bu demin Snap'lerle verdiğin örnekten aklıma hemen şu geldi. Hani genelde hep konuşulur ya insan oğlu ortalama olarak beyin kapasitesinin %10'unu kullanıyor bile. %10 bile şu anda yapay zekanın neredeyse 5 katı kapasitesi demek yani.

Ya 10 trilyon.

İnsan zekasının yaratıcılığı.

10 trilyon diye.

Evet çok çok acayip. Yani şimdi düşününce yapay zeka ne kadar gelişmiş olursa olsun sahada gerçek zamanlı olarak şartları yüz yüze görmediği için %100 anlayamayabilir. Yani ne bileyim bir işin yüzündeki endişeyi. Duruşundaki huzursuzluğu ya da havada gerginlik bir şey varsa karısıyla yaşadığın sıkıntıyı bunu çözecek bir algoritman yok şu anda ya da böyle bir şey olabilir mi bilmiyorum ama bugün için böyle bir şey yok az zaman aldığını tabii ama sıkıldığını yandaki arkadaşının ondan daha iyi bir ücret artışı aldığını tabii ki anlayamazsın şimdi ama sahada 30 yıllık bir foreman mesela bu gerginliği veya bu huzursuzluğu hissedip hemen olaya dahil olup şey gibi sanki böyle bir insan insani bir radar gibi olaya girip ne olup ne bittiğini anlayıp belki de çözebiliriz. Şimdilik yapay zekada bu yok. Dolayısıyla insan ve yapay zekanın beraber çalışması yani hibrit bir yaklaşım şart kere şart.

Ya mesela şimdi yapay şey o çalışan işçi kardeşimiz Beyim gibi Fenerbahçeliyse ve uzun yıllar şampiyon olamadığı için böyle sıkıntılar yaşıyor. Gergin ve sinirliyse ve o günde maçı kaybettiyse ertesi gün onun moral bozukluğunu hangi yapay zeka anlayabilir? Ben bile kendimi anlayamıyorum. Niye bu kadar kafayı takıyorsun bu takıma diye ama bu fevkalade enteresan bir şey insanın. Şeyse abi şu var ya bu danışman gibi olacak.

Hep söylenen bu.

Ama karar verici. Olmayacak diye düşünüyorum.

Tabii yani sadece disk analizi ortaya çıkarmak değil yani iletişim de çok önemli burada. Bir kişiye yani neden dikkatli olmasını gerektiğini anlatmak, onunla empati kurmak, yaklaşmak, hissiyatlarını anlamak belki çok daha önemli. Yani yapay zeka ne bileyim bir kurallar manzumesi ortaya koyabilir ama bir insan gibi yaklaşmayı yapamaz. Ne motive edebilir ne de moral bozukluğunu fark edebilir. İnsan ilişkilerinin olmadığı bir şekilde güvenlik sistemi de eksik bir şeyler var demektir orada. Eksik bir şeyler var demektir.

Şeyi enteresan bu sıfır sıfır bir tane gaz sarayın sahasında oynanan maçta Galatasaray Fenerbahçe maçında işte mevcut yapay zeka robotlarına şeylere sohbet robotlarına Soruyorlar işte maç kaç kaç bitecek, analizi nedir falan. Çok enteresan bir şey çıkıyor orada. Çok robot maçı Galatasaray'ın 2-1 kazanacağını söylüyor. Mesela şimdi bu çok ilginç yani Galatasaray 5-1 de kazanabilir.

Çünkü şeylere bakıyor, geçmiş verilere bakıyor.

Bütün şeyler öyle ve bir konu daha var abi yapay zekalı benim şu an gözlediğim güncellikle ilgili. İşte Galatasaray'da diyor Kerem Aktürk oğlu çok... Başarılı olacak işte en büyük şeysi bu diyor. Ankara mı oynamıyor? Fenerbahçe'de de Ferdi'yi söylüyor. Şu anda böyle bir şey yok.

Öyle birileri yok.

Güncel veri az olduğu için o az veriden yaptığı analiz de sağlıklı olmuyor.

Bu çok harika bir nokta çünkü hep diyoruz ya yapay zeka veri robotudur veri robotudur. Şimdi bu tahmin için verilen veriler demek ki eksik ve yanlış. Dolayısıyla sonuç da yanlış. Analiz de yanlış. Yani yapay zekanın veriyle eğitilmesinin ne kadar önemli olduğunu harika bir şekilde ortaya koydun. Daha güzel anlatılamazdı bana sorarsan. Yani teknolojiyi nasıl kullanmalıyız konusunu devreye soktuğumuz zaman gerçekten veri yönetiminde bizim çok mahir olmamız lazım yapay zekaya döneceğiz. Beslaket ve yapay zeka ile insanın artık ayrılmaz bir bütün olarak çalışacağını görmek bizim belki de ilerlememiz için en birinci gelen şartlardan, prensiplerden bir tanesi. Bu işbirliğini kurduğumuz takdirde gelecekte gerçekten çok başarılı bir ortaklık ortaya çıkacak diye düşünüyorum.

Aynen ya burada tabii şeyi de konuşmak lazım ama bence bunu başka programda konuşacağımız için çok... Girmeyelim ama sorumluluğu kim üstlenecek?

Evet evet.

Dedim ya Amerika'daki o autonomi araçların hayata tam geçmemesi hukuksal olarak o kazanın sorumlusu kim olacak diye. Onun için buraya girmeyelim. Bunları bu gri alanları biz zaten çok detaylı konuşacağız. Özellikle hukuk senin konunun olduğu için sözleşmeler ve hukuk bunların dibine kadar gideceğiz.

Evet.

Onun için burayı böyle geçiyorum ama kafamın kenarına da takılı kalarak geçiyorum. Hem takılı hem de değil çünkü cevaplarını konuşacağız. Şimdi yine biz bu şey tarafa, Dark Side of the Moon karanlık tarafına gidelim işin. Kontrollen çıkması var abi. Yani güvenlik sisteminin küçük bir yazılım hatasıyla nelere yol açabileceğini yani hayal etmek bile yorucu. Düşünsene yüksek çalışan işçi kemerini kontrol eden sistem bir anlık hatayla kemeri çözüyor. Mesela düşün bu sadece yazılım hatası değil, insana hayatı demek. Bir saniyelik hata bir ömürlük sonuç olabilir. Dair bir garanti yok elimizde.

Evet kesebileceğin cezayı kesem bile.

Kontrol de şu bir şey yani.

Kesebileceğin cezayı kesem bile telafisi olmayan bir sonu. Yani bunları konuştuğumuz zaman bunlar artık bilim kurgu filmi gibi de değil bunlar. Yani ciddi risk olarak karşımıza mesela ne bileyim yapay zeka kontrolü bir ekskavatörün yanlış bir rotada gidip yapılan bir binanın yapı elemanına zarar verdiğini ve ciddi geri döndürülemez bir hasar ortaya çıkardığını düşün. Ya bu sadece maddi kayıp değil, manevi düzeltiyorum can kaybı olarak da risk yaratıyor. Yani operatör o anda hiçbir şey yapamayacak çünkü makine gidiyor kendi başına. Dolayısıyla otomatik modda olduğu için gidiyor. Bu gibi durumlarda manuel müdahale imkanı olması gerekiyor veya gerekiyor. Yani bu şey sistemin hacklenmesi veya... Işleyişin bozulmasına güzel örneklerden bir tanesi Kurtuluş günü 1 ve 2 filmleri vardı uzaylılar dünyayı işgal ediyor nasıl kurtulacağız nasıl bir çözüm bulacağız derken ya dünyadaki medeniyetten belki bin kat daha gelişmiş bir medeniyeti alt etmek için neticede onların da bilgisayar sistemine dayandığını düşünerek tabii film bu ama yine de yaratıcılık açısından onların bilgisayar sistemine bir virüs atarak işlemez hale gelmesini sağlar. Bu örnek bizim için şu anda çok geçerli olarak duran bir risk olarak önümüzde duruyor.

Aynen abi ben yani 40 yıl oldu artık meslekte şunu görüyorum iyi bir yönetici kimdir dendiğinde mesela çok önemsediğim bir nokta öncelik sıralamasını doğru yapmak. Çünkü öncelik sıralaması deneyimi getirdiği bir şey. Şimdi ben böyle yeni arkadaşlarla çalıştığım zaman hep şunu görürüm. En çok istedikleri işi önce yapmak isterler. Ama o ona kadar önemli. O önceliği bilemez. Tecrübeli, deneyimli bir proje yöneticisi o öncelik sıralamasını yapar. Şimdi yapay zeka için de bu önemli. Yani bir güvenlik riskini diğerine tercih etmesi. Şimdi hangisini öne koyacak? Yani diyelim işte örneğin kişisel koruyucu donanımları takmayan bir işçiye odaklanıyor. Ama sistem yapıda çökme riskini göz ardı ediyor. Şimdi bu da önemli yani öncelik şey... Halbuki ikisi de hayati. İşte yapay zeka bu önceliklendirme işinde bence daha tam yeterli değil. İşte bunlar da deneyimle, onun için deneyimle daha çok veri. Yani Kerem'le Ferdi'yi hala Fenerbahçe Galatasaray'da zannetmemesi lazım. Çünkü onun verisinde senelerce Kerem'i Galatasaray'a koymuş, senelerce Ferdi'yi Fenerbahçe'ye koymuş. Son bir sene yok. O hala eski veriler üzerinden yorumluyor ve maçın en şeyoncuları bunlardır.

Evet, bu verdiğin örnekte sistem alarm vermese dahi o tehlike orada duruyor. O tehlike oradan kalkmadı. İnsan onlarda doğal olarak, kardeşim alarm alarm çalmıyor, nereden çıktı şimdi bu risk algısı diye olayın kritikliğini fark etmeyebilir. Yani oluşacak güvenin suistimal edilmesi ihtimali bile sistemin belki de kör noktalarını ortaya çıkarmasının... En tehlikeli taraf yapay zeka ne bileyim her şey yolunda güvendesiniz dediği zaman bile insanlar sorgulamadan inanıyor ona veya inandığı durumlar olabilir. O yüzden sistemin kontrol mekanizmalarının mutlaka insan filtresinden geçmesi gerekiyor.

Kesinlikle. Abi ben bu gençlere yeni mezun inşaat meselesi arkadaşlar mentorluk yaparken hep onlara şunu söylüyorum. Büyük resme bakma becerinizi geliştirin.

Evet.

Ya büyük resme bakın. Şimdi yapay zeka harf yani her söylenenin yerini getirebilir ama resmin tamamını görmez abi. Yani eğer programlandığı görev sadece işçi baret taktı mı takmadı mı kontrolü ise sadece ona odaklanır. Çevredeki diğer büyük riskleri görmez. Bu bizim yani görsel körlük dediğimiz bir etki yaratır. Sistem çalışıyor gibi görünür ama aslında kritik bir riske atlıyor olabilir.

Buna benzer bir örnekle şöyle verilebilir belki. Şimdi diyelim ki hani neyse de yazılım üzerine çalışan bunlar oluşumlar bir güncelleme yaptığını varsayalım. Güncelleme sırasında bir şeyleri o anda güncelleme yaptığı için birinci ilişki olarak onu düşünüyor ve kritik bir şeyleri arka plana atıyor ve uyarı vermiyor. Düşünsene çok tehlikeli bir iş yapılıyor sahada ve orada anında uyarı çakması gerekirken ama sistem güncellemesi yapıyorum, veri güncellemesi yapıyorum derken onu atlıyor. Dolayısıyla büyük bir risk yaratabilir. Bunun yakın örneği şeyde başımıza geçti.

Bankada yaşandı ve işlem yapılamadı.

Evet evet.

Biliyorsunuz.

Bankada yap ismini vermemişim. Bankada oldu.

Yok canım tabii.

Ama.

O güncelleme hatasıydı.

Tabii tabii tabii.

Bravo.

Yakın zamanda. Herhalde geçen seneydi galiba. Windows biliyorsun yani ne dünyada dünyada herhalde büyük çoğunluğu kullandığı işletimse Windows güncelleme kendi serverlarında güncelleme yaparken bütün havacılık sistemini çökertti. Ve bu neredeyse 24 saate yakın sürdü ya da birazcık daha fazla. Bütün dünyadaki uçuşlar neredeyse durma noktasına geldi.

Onun için güncelleme olayı çok önemli. Şu veri yedekleniyor ya.

Tabii tabii.

O yedeklemeyi doğru yapamadığın zaman işte o zaman sistemde error var.

Ve güncelleme zamanı güncellemeyi yapıyorsun ama asıl olan güvenlik işini yapamadığın için bütün uçtan mesela durdurulabilir duruma geliyor. Çok acayip bir durum.

Abi şu var ya biz bu sistemlere kusursuzmuş gibi yaklaşmalıyız.

Evet evet.

Evet faydaları var hepsini konuşuyoruz ama sınırları da bilmeliyiz harika.

Kesinlikle katılıyorum. Şimdi İyi ve kötü yönleri konuşuyoruz ama hep o hani milyon dolarlık soru diyoruz ya gerçekten de şu soruyu sormadan da edemiyor insan. Gerçekten yapay zeka kazaları insandan daha iyi önleyebilir mi? Şimdi bu soru konuşmamızın birinci dakikasından beri önümüzde duruyor. Elimizde hani veriye dayalı çalışan, yorgunluk tanıyan, kask kontrolü yapan vesaire çeşitli bir sürü güvenlik önemlerine takip edebilen analize yapabilen bir sistem var yapay zeka sistemi. Ama aynı zamanda hata da yapabilen, yanlış da alarm verebilen, siber tehditlere karşı hala açık olan, çünkü kusursuz değil yapay zekalar. Cevap bu bakımdan baktığımız zaman çok net değil. Ama hop döndük yine başa döndük.

Tabii.

Hibrit.

Biz buraya hep geleceğiz.

Evet.

Yani başta da, sonda da, her bölümde biraz da bence bunun altını çizmenin ben doğru olduğunu düşünüyorum. Evet bize rüya gibi imkanlar sunuyor ama hala insani yargının, sezginin, tecrübenin yerini tam olarak alamıyor. Ve bunun alabileceğine dair de çok iyimser değiliz. Bakın, deyiz derken ben kendi kişisel şeyimden söylemiyorum. Bu konuya kafa yoran bilim insanları açısından söylüyorum. Bu yüzden bence, Haluk'cığım çok iyi dedin. Bunun altını çizelim. Belki dinleyicilerimiz yapın. Bunlar hep aynı şeyi söylüyor. Diyebilirler ama en sağlıklı modelin insan artı yapay zeka ortaklığı olduğunu kabul etmeliyiz. Yani sistem analiz etsin, verileri sunsun ama son kararı biz insanlar verelim. Böylece ne körü körüne teknolojiye güvenmiş oluruz ne de gelişmeleri ıskalarız diye bir böyle toparlama cümlesini kurdum galiba farkında olmadan.

Tabii ki çünkü konuşma... ...neredeyse artık son anımıza yaklaşıyoruz. Çünkü yapay zeka evet bir sürü veri analizi yapıyor güvenliğe dair. Ama insan hissiyatı veya gözlemiyi göz ardı edilmemeli. Dolayısıyla gelecekte de senin de söylediğin gibi abi beraber çalışacakları bir sistemin geçerli olması veya yürürlükte olması gerekecek.

Şimdi ben şunu da önemsiyorum, şirketler de bu konuda ciddi hazırlık yapmalı. Biz hep burada insanlara konuşuyoruz, insanlar kendini hazırlamalı diye. Mesela şöyle bir algı var ki ben bunu çok tehlikeli görüyorum. Yapay zeka her şeyi halleder. Abi yapay zekayı sorarız o bize yapar. Yapay zeka bize böyle dedi. Bu çok tehlikeli bir şey. Yani bilelim ki yapay zeka her şeyi halletmeyebilir. Yapay zeka bizim yardımcımız. Değil mi? Yani bir proje müdürü yardımcısına sorar, onun desteğini alır ama... ...sonunda der ki bir dakika dur ya, burası böyle olacak senin dediğin gibi değil. Bizim de her zaman bu insan olmanın verdiği üstünlüğü... ...korumalıyız diye düşünüyorum. Yani sistem çöktüğünde, karar veremediğinde... ...orada mutlaka insan olmalı diye düşünüyorum abi.

Evet, kesinlikle katılıyorum bu söylediklerine. Bitirmeden önce belki son bir söyleyeceğim kelime veya kelime olarak şunu da eklemek gerekiyor. Vurgulamamız gereken şey evet hibrit model. Yapay zekanın analizleri önemli. Şirketlerin bunu veya işte ne bileyim bireysel veya kurumsal bazda bunları nasıl kullanacakları önemli ama hem insanların beraber yapay zeka ile çalışması hem de... Bunun bir şirket kültürü olarak yerleşmesi çok önemli. Çok güzel. Bu şekilde beraber çalışmayı beceremeyen, hibrit modele ayak uyduramayan firmalar veya bireysel bazda insanlar maalesef başarıya hasret kalacaklar. Kesinlikle. Bunu hiç aklımızdan çıkarmamız gerekiyor.

Yine bence.

Bu podcast'i ve bundan sonraki podcast'leri de belki de... Bu perspektifle dinlemek daha faydalı olacaktır.

Kesinlikle. Bence bu podcast'ın manşetini sen söyledin abi. Bu sadece bir teknoloji yatırımı değil, aynı zamanda bir kültür meselesi. Güvenliğe teknoloji kadar insanın da sahip çıkması gerekiyor. Ben bugünlük bu kadar diyelim.

Evet, evet. Gayet açıklayıcı olduğunu düşünüyorum. Umarım dinleyicilerimiz de zevk almışlardır.

Gelecek bölümde konuşacağız. Sana bırakacağım.

Gelecek bölümde sürpriz.

Dizi takip eden bir şey var. Söyleyelim mi söylemeyelim mi? Hadi söyleyelim. Dizi tepeden böyle takip edip ne yapıyor ne ediyor diye.

O zaman gelecek bölümde drone'ları konuşmayı planlıyoruz. Çünkü o da çok acayip bir konu.

O iş biraz uzayacak gibi görünüyor. O iş karakolda gidecek derler. O iş iki bölüme gidebilir.

Kapsamlı bir konu. Bir defa da konuşabileceğimizi sanmıyorum. Herhalde iki parça yapacağız onu.

Onu galiba çalışmamız gerekecek. Bu hafta oturacağız, drone çalışacağız.

Çünkü drone'ların ne harikalıklar yarattığını... ...malum işte Dubai'deki veya Amerika'daki veya yurt dışındaki drone gösterilerinden... ...Uzakdoğu'daki drone gösterilerinden seviyoruz. Biz işin daha inşaat boyutuna eğileceğiz. Çok acayip şeyler konuşacağımızı düşünüyorum. Bir dahaki seansda görüşmek üzere inşallah.

Görüşmek üzere. Yine bizi fikirlerinizle yalnız bırakmayın. Düşüncelerinizi, görüşlerinizi etdijitalposta'dan bizlere yazın. Biz de çok merak ediyoruz. Bakalım siz bunları dinletten sonra neler düşünüyorsunuz.

Böyle. Teşekkürler, görüşmek üzere. İyi günler.

İyi günler, sağ olun.