Papa Francis, katil robotları, otonom drone'ları ve benzeri silah sistemlerini ciddi bir tehdit olarak görüyor. Cuma akşamı İtalya'nın güneyindeki Puglia'daki Borgo Egnazia'daki G7 zirvesinde yapay zeka (AI) üzerine merakla beklenen konuşmasında, “Hiçbir makine asla bir insanın canını almayı seçememeli” diye vurguladı. 87 yaşındaki isim, “Yapay zeka programlarının seçim sürecinde insan kontrolüne önemli yer vermeli, bunu garanti etmeli ve korumalıyız” diye seslendi. Çünkü: “İnsan onuru tehlikededir.”
Duyuru
Roma Katolik Kilisesi başkanı, “silahlı çatışma gibi bir dramada” bile “ölümcül otonom silahlar” gibi cihazların geliştirilmesi ve kullanılmasının yeniden düşünülmesinin “acil olarak gerekli” olduğu konusunda uyardı. büyük sanayileşmiş ülkelerim. Bu tür teknolojinin kullanımının yasaklanmasını açıkça destekledi. Bu bir karara hazır olana kadar, “giderek daha büyük ve anlamlı insan kontrolünü uygulamaya koymak için proaktif ve somut bir kararlılığın” olması gerekiyor.
G7 tarihinde ilk kez bir papa konuk oldu. Francis'in yapay zekanın ortaya çıkışının “gerçek bir bilişsel-endüstriyel devrimi temsil ettiğinden” hiç şüphesi yoktu. Bu, “karmaşık ve çığır açan değişikliklerle karakterize edilen” “yeni bir sosyal sistemin yaratılmasına katkıda bulunacaktır”. Örneğin, kilit teknoloji “bilgiye erişimin demokratikleşmesini, bilimsel araştırmaların katlanarak ilerlemesini ve sıkıcı işleri makinelere devretme yeteneğini” destekleyebilir. Ancak konuşmasının çoğunu yapay zekanın risklerine ayırdı. Ona göre bu aynı zamanda “ileri ve gelişmekte olan ülkeler arasında, egemen ve ezilen toplumsal sınıflar arasında daha büyük adaletsizliğe” yol açabilir. “Karşılaşma kültürü”nün yerini “atma” kültürü alma riski taşıyor.
Yargı kararlarına yardımcı olarak yapay zekanın eleştirisi
Papa'ya göre hızlı teknolojik ilerleme, yapay zekayı “büyüleyici ve aynı zamanda korkutucu bir araç haline getiriyor. Bu, duruma adaletli bir yansıma gerektiriyor. Yapaylık nedeniyle Francis'in kendisi zaten yapay zeka mem kültürünün bir parçası haline geldi” . rapçi tarzı tasarımlı beyaz dolgulu bir ceket giydiği bir fotoğraf yarattı.
Dersinde çok büyük bir farklılığın altını çizdi: “Makinenin bazı şekillerde ve bu yeni yöntemlerle algoritmik seçimler yapabileceğini her zaman aklımızda tutmalıyız.” Bu yaklaşım “ya kesin olarak tanımlanmış kriterlere ya da istatistiksel sonuçlara” dayanmaktadır. Ancak insan sadece seçmekle kalmaz, aynı zamanda “kalbinde karar verme yeteneğine de sahiptir”.
Papa, yapay zekanın bu nedenle “belirli sorunları çözmek” için tasarlandığını açıkladı, ancak kullanıcılar için “önerdikleri belirli çözümlerden genel, hatta antropolojik sonuçlar çıkarmanın cazibesi çoğu zaman karşı konulamaz”. Bunun bir örneği, hakimlerin hüküm giymiş suçlulara ev hapsi verilip verilmeyeceğine karar vermesine yardımcı olacak programların kullanılmasıdır. Bu durumda yapay zeka, önceden tanımlanmış kategorilere dayanarak tekrar suç işleme olasılığını tahmin etmek için kullanılıyor. İlgili sistemlerin etnik köken, eğitim düzeyi veya kredi limiti gibi özel veri kategorilerine erişimi olacak. Yalnızca “fiili bir makinenin bir kişinin kaderi üzerinde son sözü söylemesine izin verme” tehlikesi yok. Bunun yerine, “önyargılı yargılara örtülü bir gönderme” de olabilir, yani yapay zeka, eğitim verilerinden önyargıları veya stereotipleri benimser.
“Üretici” yapay zeka yaratıcı değil, “güçlendiriyor”
Francis, OpenAI'nin ChatGPT'si veya Google'ın Gemini'si gibi bilgi sistemleri ve botlar hakkında çok az düşünüyor. “Birçoğumuz, herhangi bir konuda metin yazmak veya resim oluşturmak için internette kolayca bulunabilen uygulamalardan etkileniyoruz” dedi. “Öğrenciler bunu özellikle seviyorlar çünkü çalışmak zorunda olduklarında orantısız bir şekilde kullanıyorlar” diye onu eleştirme isteğine karşı koyamadı. Ancak öğrenciler, üretken yapay zeka olarak adlandırılan şeyin tam anlamıyla “yaratıcı” olmadığını unutuyor. Gerçekte yaptığı şey, büyük veriden bilgi çıkarmak ve onu istediği tarzda paketlemek. Böyle bir sistem bir terim veya hipotezle ne kadar sıklıkla tekrar tekrar karşılaşırsa, onu o kadar meşru ve geçerli sayar.
Papa, bu tür geniş dilsel modellerin mevcut içerikleri yeniden düzenlemesi ve sağlamlaştırmaya yardımcı olması açısından “güçlendirici” olduğunu ancak hataların veya önyargıların olup olmadığını kontrol etmediklerini açıkladı. Bu sadece “sahte haberleri meşrulaştırma ve egemen kültürün avantajını güçlendirme” riskini taşımakla kalmıyor, aynı zamanda altta yatan eğitim sürecini de baltalıyor. Artık gerçekten gerekli olan özgün yansımaya yer yok.
Francis, bu sistemlerin uygulanması ve geliştirilmesindeki ana zayıflığı “insanın değeri ve onurunun algılanmasıyla bağlantılı etik eksikliği” olarak tanımladı. Yapay zekanın “iyi ve daha iyi bir gelecek inşa etmenin” bir aracı haline gelebilmesi için “her zaman herkesin refahını hedeflemesi” gerekiyor. Vatikan ve teknoloji şirketleri, 2020 yılında İtalyan hükümetiyle birlikte algoritmaların etik yönelimi için bir çağrı imzaladı. Papa, yapay zekanın “teknokratik paradigmayı” güçlendirmemesi gerektiğini, buna göre “dünya vizyonunun gerçeklerle sınırlı olduğunu” ifade etti. sayılarla ve önceden hazırlanmış kategorilerle ifade edilir”.
(LL)
Haberin Sonu
Duyuru
Roma Katolik Kilisesi başkanı, “silahlı çatışma gibi bir dramada” bile “ölümcül otonom silahlar” gibi cihazların geliştirilmesi ve kullanılmasının yeniden düşünülmesinin “acil olarak gerekli” olduğu konusunda uyardı. büyük sanayileşmiş ülkelerim. Bu tür teknolojinin kullanımının yasaklanmasını açıkça destekledi. Bu bir karara hazır olana kadar, “giderek daha büyük ve anlamlı insan kontrolünü uygulamaya koymak için proaktif ve somut bir kararlılığın” olması gerekiyor.
G7 tarihinde ilk kez bir papa konuk oldu. Francis'in yapay zekanın ortaya çıkışının “gerçek bir bilişsel-endüstriyel devrimi temsil ettiğinden” hiç şüphesi yoktu. Bu, “karmaşık ve çığır açan değişikliklerle karakterize edilen” “yeni bir sosyal sistemin yaratılmasına katkıda bulunacaktır”. Örneğin, kilit teknoloji “bilgiye erişimin demokratikleşmesini, bilimsel araştırmaların katlanarak ilerlemesini ve sıkıcı işleri makinelere devretme yeteneğini” destekleyebilir. Ancak konuşmasının çoğunu yapay zekanın risklerine ayırdı. Ona göre bu aynı zamanda “ileri ve gelişmekte olan ülkeler arasında, egemen ve ezilen toplumsal sınıflar arasında daha büyük adaletsizliğe” yol açabilir. “Karşılaşma kültürü”nün yerini “atma” kültürü alma riski taşıyor.
Yargı kararlarına yardımcı olarak yapay zekanın eleştirisi
Papa'ya göre hızlı teknolojik ilerleme, yapay zekayı “büyüleyici ve aynı zamanda korkutucu bir araç haline getiriyor. Bu, duruma adaletli bir yansıma gerektiriyor. Yapaylık nedeniyle Francis'in kendisi zaten yapay zeka mem kültürünün bir parçası haline geldi” . rapçi tarzı tasarımlı beyaz dolgulu bir ceket giydiği bir fotoğraf yarattı.
Dersinde çok büyük bir farklılığın altını çizdi: “Makinenin bazı şekillerde ve bu yeni yöntemlerle algoritmik seçimler yapabileceğini her zaman aklımızda tutmalıyız.” Bu yaklaşım “ya kesin olarak tanımlanmış kriterlere ya da istatistiksel sonuçlara” dayanmaktadır. Ancak insan sadece seçmekle kalmaz, aynı zamanda “kalbinde karar verme yeteneğine de sahiptir”.
Papa, yapay zekanın bu nedenle “belirli sorunları çözmek” için tasarlandığını açıkladı, ancak kullanıcılar için “önerdikleri belirli çözümlerden genel, hatta antropolojik sonuçlar çıkarmanın cazibesi çoğu zaman karşı konulamaz”. Bunun bir örneği, hakimlerin hüküm giymiş suçlulara ev hapsi verilip verilmeyeceğine karar vermesine yardımcı olacak programların kullanılmasıdır. Bu durumda yapay zeka, önceden tanımlanmış kategorilere dayanarak tekrar suç işleme olasılığını tahmin etmek için kullanılıyor. İlgili sistemlerin etnik köken, eğitim düzeyi veya kredi limiti gibi özel veri kategorilerine erişimi olacak. Yalnızca “fiili bir makinenin bir kişinin kaderi üzerinde son sözü söylemesine izin verme” tehlikesi yok. Bunun yerine, “önyargılı yargılara örtülü bir gönderme” de olabilir, yani yapay zeka, eğitim verilerinden önyargıları veya stereotipleri benimser.
“Üretici” yapay zeka yaratıcı değil, “güçlendiriyor”
Francis, OpenAI'nin ChatGPT'si veya Google'ın Gemini'si gibi bilgi sistemleri ve botlar hakkında çok az düşünüyor. “Birçoğumuz, herhangi bir konuda metin yazmak veya resim oluşturmak için internette kolayca bulunabilen uygulamalardan etkileniyoruz” dedi. “Öğrenciler bunu özellikle seviyorlar çünkü çalışmak zorunda olduklarında orantısız bir şekilde kullanıyorlar” diye onu eleştirme isteğine karşı koyamadı. Ancak öğrenciler, üretken yapay zeka olarak adlandırılan şeyin tam anlamıyla “yaratıcı” olmadığını unutuyor. Gerçekte yaptığı şey, büyük veriden bilgi çıkarmak ve onu istediği tarzda paketlemek. Böyle bir sistem bir terim veya hipotezle ne kadar sıklıkla tekrar tekrar karşılaşırsa, onu o kadar meşru ve geçerli sayar.
Papa, bu tür geniş dilsel modellerin mevcut içerikleri yeniden düzenlemesi ve sağlamlaştırmaya yardımcı olması açısından “güçlendirici” olduğunu ancak hataların veya önyargıların olup olmadığını kontrol etmediklerini açıkladı. Bu sadece “sahte haberleri meşrulaştırma ve egemen kültürün avantajını güçlendirme” riskini taşımakla kalmıyor, aynı zamanda altta yatan eğitim sürecini de baltalıyor. Artık gerçekten gerekli olan özgün yansımaya yer yok.
Francis, bu sistemlerin uygulanması ve geliştirilmesindeki ana zayıflığı “insanın değeri ve onurunun algılanmasıyla bağlantılı etik eksikliği” olarak tanımladı. Yapay zekanın “iyi ve daha iyi bir gelecek inşa etmenin” bir aracı haline gelebilmesi için “her zaman herkesin refahını hedeflemesi” gerekiyor. Vatikan ve teknoloji şirketleri, 2020 yılında İtalyan hükümetiyle birlikte algoritmaların etik yönelimi için bir çağrı imzaladı. Papa, yapay zekanın “teknokratik paradigmayı” güçlendirmemesi gerektiğini, buna göre “dünya vizyonunun gerçeklerle sınırlı olduğunu” ifade etti. sayılarla ve önceden hazırlanmış kategorilerle ifade edilir”.
(LL)
Haberin Sonu