Covid-19 Mart 2020'de Avrupa'yı vurduğunda; otonom sistemler, sokağa çıkma yasakları gibi önlemler ile salgının önüne geçilmesi amaçlanmış olsa da devletlerin sağlık sistemleri çökme noktasına gelmekten kurtulamadı. Türkiye için de bu durum geçerliydi; yer kalmayan hastaneler, koridorlarda uzun kuyruklar bekleyen insanlar bu krizin ciddiyetini bize gösteriyordu.
Hollanda'nın önde gelen araştırma üniversitesi Maastricht’de olaylar hakkında tahmine dayalı araçlar üzerine çalışan epidemiyolog Laure Wynants, salgının en hızlı yayıldığı ve sağlık sisteminin çökmeye başladığı dönemlerde doktorlar ile diğer sağlık çalışanlarının bu hastaları nasıl yöneteceklerine dair hiçbir fikrinin olmadığını belirtiyor.
Covid-19’da Yapay Zekâ
2020 Ocak ayında ortaya çıkan virüs, resmî kurumlara göre bir süre boyunca Çin sınırları içinde kalmıştı. 11 Ocak’ta ilk virüs kaynaklı ölüm gerçekleşirken 13 Ocak’ta ilk defa Çin dışında bir ülkede, Tayland’da, küresel bir salgın olma boyutuna ulaştı. Virüs, yaklaşık 4 ay sonra tüm Avrupa’yı etkisi altına almayı başarmıştı. Devletler ile sağlık çalışanlarının bilinmeyen bir virüs yüzünden elleri kolları bağlıydı. Ancak iyi bir yönünden bakmak gerekirse pandemiyi yenme yarışına dört ay önceden başlayan Çin'den gelen veriler doktorlara tedavi konusunda ışık tutuyordu. Teknoloji çağında olduğumuz için verilerin olduğu bir yerde yapay zekâ ve makine öğreniminin olmazsa olmaz ikili olduğunu biliyoruz.
Araştırmacıların incelemelerine göre doktorların enfekte kişilerde gördüklerini anlamalarına ve karar vermelerine yardımcı olmak için Çin’e ait veriler ile makine öğrenimi algoritmaları eğitilebilseydi, birçok kişinin hayatı kurtarılabilirdi.
“Yapay zekânın yararlılığını tüm dünyaya kanıtlayabileceği bir zaman varsa, o zaman şimdidir diye düşündüm. İçimde birçok umut yeşermişti ve bu fırsat için heyecanlıydım.” - Laure Wynants
Maalesef bu fırsat düşünüldüğü gibi değerlendirilemedi. Bunun arkasındaki nedenleri içeriğimizin devamında konuşacağız ama şimdiden başarısızlığın nedeninin efor eksikliği olmadığını belirtmeliyiz. Yapay zekâ üzerine araştırmalar yapan topluluk, hastanelerin hastaları daha hızlı teşhis etmesine ve doktorların ihtiyaç duyduğu erken tanı desteğini sağlayabilecek bir yazılımı hızlıca geliştirmeyi amaçlamıştı. Ancak bu durum uygulamaya geçemeyerek sadece teoride kaldı.
Bu acelenin sonunda, aralarında neredeyse hiçbir fark bulunmayan onlarca hatta yüzlerce 'Koronavirüs özel tanı aracı' geliştirildi. Ancak önemli bir nokta vardı ki, bu sistemleri besleyen 4 aylık çok kısıtlı veri olmasından kaynaklanan potansiyel olarak zararlı yazılımlar bulunuyordu. Bir diğer deyişle; “Yapay Zekâyı Tanıyalım: Sağlık Hizmeti” gibi birçok içeriğimizde detaylı bir şekilde iyi taraflarından bahsettiğimiz yapay zekâ, yanlış teşhisten kaynaklı insanların hayatlarını kaybetmesine sebep olabilirdi.
Geliştirilen Sistemlerdeki Ortak Konular
İngiltere'nin ulusal veri bilimi ve yapay zekâ merkezi olan Turing Enstitüsü, haziran 2020'nin sonlarında düzenlediği birkaç araştırma sonucu çıkan tartışmaları ve sonuçları özetleyen bir rapor yayınladı. Raporda genel olarak geliştirilen yapay zekâ sistemlerinin Koronavirüs dönemine etkileri ve toplum için sağladığı kolaylıklardan bahsediliyordu. Ne yazık ki rapor araştırmacıların umduğunun aksine, yapay zekânın Covid-19’a yardımda başarılı olduğu sonucunu desteklemiyordu. Araştırmacılar, Koronavirüs ile mücadelede yapay zekâ araçlarının çok az etkisi olduğunu, hatta bazı sistemlerin hiçbir katkısı olmadığını belirtiyor.
Rapor genel olarak üç konudan bahsediyor:
İlk olarak; geliştiriciler zamanında, sağlam, ayrıntılı, standartlaştırılmış ve belgelenmiş verilere erişimde zorluk yaşadıklarını bildirdi. Ayrıca, araştırmacıların aynı verilere ulaşma konusunda eşit imkânı olmaması ve bazı araştırmacıların verilere daha kolay erişmesi ayrıcalıklı bir durum yaratıyordu.
İkincisi; pandemi, önceden var olan eşitsizlik ve dışlanma gibi toplumsal sorunları vurgulayarak veri biliminin ve yapay zekânın bunları hafifletmede veya şiddetlendirmede büyük rolü olduğunu gösterdi. Geliştiriciler, azınlık etnik ve sosyoekonomik gruplarla ilgili veri eksikliği ile bunlarla etkileşim, araştırma topluluğu ve karar alma kuruluşları içindeki çeşitlilik eksikliği konusundaki endişelerini dile getirdi. Sağlık sektöründe ön yargılı yapay zekâlar mı?
Üçüncüsü; Koronavirüs, araştırmacılara algoritmalardaki ön yargı konusunda halkla şeffaf bir şekilde iletişim kurmanın hem önemini hem de zorluğunu gösterdi. Geliştiriciler daha iyi iletişimin, veri ve araştırmanın yanlış kullanılma veya yanlış yorumlanma olasılığını azaltmada anahtar olduğu konusunda aynı fikri destekliyor.
Algoritmalar Klinik Kullanımına Uygun Değil
Wynants’in baş yazarlığını yaptığı ve British Medical Journal'da yayınlanarak yeni araçlar piyasaya sürüldükçe ve mevcut araçlar test edildikçe halen güncellenen araştırmalar, sistemlerin klinik kullanımına uygun olmadığını ve bundan dolayı kullanıcılarla buluşamayacağını belirtiyor. Wynants’in araştırma ekibi, incelemeler sırasında enfekte olan hastaları teşhis etmek veya hastalığı olanların durumunun ne kadar kötüye gidebileceğini tahmin etmeyi amaçlayan 232 algoritmaya detaylıca baktı ancak sistemlerden hiçbirinin klinik kullanıma uygun olmadığını buldu. İnceleme yapılanlardan sadece ikisi (yanlış duymadınız başarılı olanlar tüm sistemlerin %1’inden az), gelecekteki testler için yeterince umut verici olarak seçildi.
Sadece Wynants'in çalışması sistemlerin kullanılamaz olduğu sonucuna ulaşmadı. Aynı zamanda İngiltere’nin önde gelen üniversitelerinden Cambridge Üniversitesi'nde makine öğrenimi araştırmacısı olan Derek Driggs ile ekibi tarafından yürütülen ve İngiltere merkezli araştırma dergisi Nature Machine Intelligence'da yayınlanan bir başka önemli inceleme sonuçları büyük oranda destekliyor.
Bu araştırma ekibi, göğüs röntgeni ve göğüs bilgisayarlı tomografi (BT) taramaları gibi tıbbi görüntülerden Koronavirüs teşhisi başarı oranı ile hasta riskini tahmin etmek geliştirilen derin öğrenme modellerini karşılaştırdı. Geliştirilmiş 415 araca bakıldığında Wynants ve ekibi gibi hiçbirinin klinik kullanıma uygun olmadığı sonucuna varıldı. İki ekibin detaylı incelemesi sonucunda ulaşılan bu olumsuz sonuçlar, bizleri yapay zekâ hakkında düşünmeye sevk ediyor. Sağlık alanı gibi hayati sistemler için erken olabilir?
“Bu pandemi, AI ve tıp için büyük bir testti. Halkı bizim tarafımıza çekmek için uzun bir yol kat etmiş olurduk ama bu testi geçtiğimizi sanmıyorum." - Pandemi sırasında doktorlara yardımcı olmak için bir makine öğrenimi aracı üzerinde çalışan Driggs
Hâlâ Umut Bulunuyor
Wynants ve Driggs her ne kadar Koronavirüs görevinde başarısız olsa da yapay zekânın yardım etme potansiyeline sahip olduğuna inanıyor. Bu inançlarının yanı sıra algoritmaların yanlış şekilde inşa edildiğinde tanıları atlayabileceği veya hassas hastalar için riski hafife alabileceğinden sonuçlarının insanlık için çok zararlı olabileceği konusunda endişe ediyorlar.
Hatalardan Kim Sorumlu
Geliştiriciler ve sistemlerden gerçekçi olmayan beklentiler, bu araçların henüz hazır olmadan kullanılmasını teşvik edebilir. Wynants ve Driggs, inceledikleri algoritmalardan birkaçının zaten hastanelerde kullanıldığını ve bazılarının özel geliştiriciler tarafından zararlı olup olmadığına bakılmaksızın pazarlandığını söylüyor. Wynants, bu sistemlerin hastalara zarar vermiş olabileceğini ve derhal sistemlerin kullanımdan kaldırılması gerektiğini belirtiyor.
Şu ana kadar bu sistemlerin hastalara zarar verebilmiş olabileceğini göz önünde bulundurursak bu hatalardan kim sorumlu olabilir? Sonuçta yapay zekâlar kendi kendine düşünerek aksiyon alıyor ve bu şekilde karar verebiliyor. Ancak başka bir açıdan baktığımızda ise sonuç olarak bu sistemleri bir insan geliştiriyor. Elon Musk'ın da belirttiği üzere yapay zekâyı suçlamak doğru olmayabilir. Şu an için bu sistemlere özel olarak yasalar geliştirilmeye çalışılıyor olsa da henüz net bir durum belirlenemedi. Bu durum algoritmaların sağlık gibi önemli alanlarda kullanılmasının etikliği hakkında tartışmaya sebep oluyor.
Koronavirüs döneminde yapay zekânın hastaları teşhis etmek için kullanılamamasının iyi bir tarafı varsa o da pandeminin birçok araştırmacıya yapay zekâ araçlarının oluşturulma şeklinin değişmesi gerektiğini açıkça gösteriyor olması diyebiliriz. Wynants, "Pandemi, algoritmalarda bir süredir sürdürdüğümüz sorunları ön plana çıkardı ve bizleri değişime sürekledi" diyor. Peki sistemleri geliştirirken neler yanlış gitti? Bu yanlışları nasıl düzeltebiliriz? Yazımızın ikinci bölümü "COVID-19 Başarısızlığına AI Çözümü" başlıklı içeriğimizde bu konuları ele alacak ve yapay zekâyla iç içe olduğumuz güzel bir geleceği hedefliyor olacağız.
Kaynak: Technology Review
Comments