Modern ve güçlü bir Bundeswehr'in, örneğin yüz tanıma, dil ve topografya analizi veya hareket profilleri için yapay zeka sistemlerine ihtiyacı vardır. Bu aynı zamanda sivil sektördeki teknolojinin kullanımını da içermektedir. Ancak burada Brüksel'in belirsiz gereksinimleri bir engel oluşturuyor.
Ağustos 2024'te AB'nin Yapay Zeka (AI) Yönetmeliği yürürlüğe girdi. Yapay zeka için risk tabanlı bir kontrol sistemi oluşturur. Yasaklar, şeffaflık, belgeleme, risk yönetimi, kalite güvencesi ve denetim, Avrupa'da yapay zekanın kullanımına ilişkin çok katı kuralları işaret ediyor. Yasanın ihlalleri ağır şekilde cezalandırılacaktır.
AB öncelikle demokrasiyi ve insan haklarını yeni teknolojinin yarattığı tehlikelerden korumak istiyor. Yapay zeka yoluyla sömürü, manipülasyon ve sosyal kontrol önlenmelidir. Norm, yasama canavarıdır. 113 makale, 180 özet, 13 ek ve 81.793 kelimeden oluşmaktadır. Almanya'da Federal Ağ Ajansı'nın uygulamayı izlemesi gerekiyor.
Yapay zeka, devletin ve ekonominin dijital dönüşümünün hayati bir bileşenidir ve silahlı kuvvetler için de yeni fırsatlar sunmaktadır. Yalnızca teknolojik yenilikle Bundeswehr eşit hale gelecek ve ittifak ve ulusal savunma amacıyla savaşabilecek kapasiteye sahip olacak. Sistemin müttefikleri ve rakipleriyle bağlantısını kaybetmemelidir.
ABD, Çin ve Rusya'da yapay zeka halihazırda askeri alanda büyük ölçüde düzenlemesiz ve sınırsız bir şekilde kullanılıyor. Kısa bir süre önce Kaliforniya, yapay zekaya yönelik yasal kontrollerin getirilmesini reddetti.
Bundeswehr'in misyonu ve askeri etkinlik zinciri boyunca savaş kabiliyetinin elde edilmesi için, yüz tanıma, konuşma ve topo analizi veya hareket profilleri gibi yeni AB yönetmeliği tarafından yasaklanan veya sıkı bir şekilde düzenlenen yapay zeka sistemleri özellikle ilgi çekicidir. .
Ancak bilgi birikimi ve kaynak eksikliği nedeniyle Bundeswehr operasyonel, yüksek performanslı yapay zeka sistemlerini tek başına geliştirip tanıtamaz. Bunun için güçlü pazar ortaklıkları gerekiyor.
Savunma Bakanlığı öncelikle yeni kurulan şirketlere yoğun destek sağlamaya odaklanıyor. Bundeswehr'in (yazılım tanımlı savunma) dijitalleştirilmesi, yeni kurulan şirketlerle işbirliği içinde teşvik edilecek.
Bakanlık köpek yavrusu koruması ve birçok açıdan ücretsiz deney alanları alıyorlar. Bir yan etki, Almanya'nın dijital egemenliğinin gelişmesidir.
Endüstriyel sağlayıcılar için, ister start-up ister BigTech olsun, tek müşteri olarak Bundeswehr elbette uzun vadede çekici değildir. Ancak yapay zeka uygulamalarının ticari açıdan sivil kitle pazarına yönelik olarak test edilmesi ve devreye alınması durumunda ciddi bir iş ortağı olarak değerlendirilebilir.
Çift kullanımlı bir teknoloji
Bundeswehr'e yönelik yapay zeka genellikle sivil kullanıma yönelik gelişmeler ve uygulamalardan askeri amaçlarla değiştirilmekte, uyarlanmakta ve tanıtılmaktadır. Çift kullanımlı teknoloji olarak bilinen şey budur.
Malların sivil-asker karma sınıflandırması için, bunların tamamen veya kısmen kullanılmasının nesnel olasılığı yeterlidir. Kullanım amacı veya fiili kullanım gibi sübjektif özellikler belirleyici değildir.
Bunun bir örneği, sağlık sektöründeki fiziksel anormallikleri (kanser hücrelerini) vücut taraması yoluyla tespit edip bunlarla mücadele edebilen, ancak sadece birkaç ayarlamayla zırhlı araçların yerini tespit etmek ve imha etmek için askeri durum görüntülerini de değerlendirebilen bir yapay zeka sistemidir. Her durumda, dijital yakınsamaya yönelik küresel eğilim, kaçınılmaz olarak BT ürünlerinin amaçlarının birleşmesine yol açmaktadır.
Yapay zeka yönetmeliği, yapay zekanın askeri, savunma ve güvenlik alanlarında kullanımına ilişkin düzenlemeleri de içeriyor. Yalnızca askeri veya polis amaçlarına yönelik üretim veya pazarlama yapılırken katı düzenleyici sistem göz ardı edilir. Bu durumda güvenlik ve savunma sektörü özellikle ayrıcalıklı kılınmakta ve standart kapsamından muaf tutulmaktadır.
Bu, düşmanca veya düşmanca bloklardaki askeri yapay zeka kullanıcılarıyla eşit düzeyde olmak için gerekli kapsamı yaratır. Askeri yapay zeka sistemleri için kontrol standardı, yalnızca evrensel olarak uygulanabilir uluslararası hukuktur.
Ancak açıklanamayan şey, AI düzenlemesinin savunma ayrıcalığının, büyük ve pratik olarak daha önemli olan çift kullanımlı AI sistemleri grubu için geçerli olmamasıdır. Yönetmeliğin standart kısmında bu konuda açık ve net bir açıklama bulunmamaktadır. Düzenlemenin açıklamalarından elde edilen yorumlayıcı yardımların makul bir çözüme katkıda bulunup bulunmayacağı, teknik hukuki nedenlerden dolayı tamamen belirsizliğini koruyor.
AI düzenlemesi doğrudan uygulanabilir bir yasadır ve Alman yasama organı tarafından uygulama ve açıklama yapılmasına yönelik herhangi bir önemli kapsam sağlamamaktadır. AB Parlamentosu ve Konseyi, burada düşünürken ve tasarıyı hazırlarken potansiyel olarak ciddi bir hata yaptı. Çünkü görünüşe göre özellikle yapay zeka sistemlerinin dış tehditlere karşı savunmada son derece önemli bir rol oynayabileceğinin farkında değillerdi.
Sonuç olarak, Bundeswehr ve özel pazar ortakları artık tamamen Yapay Zeka Yönetmeliği kapsamındaki düzenlemelere tabidir. İhlallerin yıkıcı hukuki sonuçları vardır. Uygulamada bu, büyük bir belirsizliğe ve ilgili aktörler üzerinde dayanılmaz bir yüke yol açmaktadır.
AB düzenleyici kendi hedefi
Yapay zekanın güvenlik ve savunma alanlarındaki potansiyeli şimdilik kullanılamıyor. Bundeswehr'in askeri savunma kabiliyeti ve savaş kabiliyetine ilişkin genel hedef, AB'nin kendi düzenleyici hedefi tarafından sorgulanıyor.
Avrupa Birliği, güvenlik politikası durumundaki mevcut değişiklikleri dijital mevzuatına yeterince yansıtmadığı yönündeki eleştirileri kabul etmelidir.
Jan Byok bir avukat, yazar, öğretim görevlisi ve aynı zamanda bir albaydır.
Ağustos 2024'te AB'nin Yapay Zeka (AI) Yönetmeliği yürürlüğe girdi. Yapay zeka için risk tabanlı bir kontrol sistemi oluşturur. Yasaklar, şeffaflık, belgeleme, risk yönetimi, kalite güvencesi ve denetim, Avrupa'da yapay zekanın kullanımına ilişkin çok katı kuralları işaret ediyor. Yasanın ihlalleri ağır şekilde cezalandırılacaktır.
AB öncelikle demokrasiyi ve insan haklarını yeni teknolojinin yarattığı tehlikelerden korumak istiyor. Yapay zeka yoluyla sömürü, manipülasyon ve sosyal kontrol önlenmelidir. Norm, yasama canavarıdır. 113 makale, 180 özet, 13 ek ve 81.793 kelimeden oluşmaktadır. Almanya'da Federal Ağ Ajansı'nın uygulamayı izlemesi gerekiyor.
Yapay zeka, devletin ve ekonominin dijital dönüşümünün hayati bir bileşenidir ve silahlı kuvvetler için de yeni fırsatlar sunmaktadır. Yalnızca teknolojik yenilikle Bundeswehr eşit hale gelecek ve ittifak ve ulusal savunma amacıyla savaşabilecek kapasiteye sahip olacak. Sistemin müttefikleri ve rakipleriyle bağlantısını kaybetmemelidir.
ABD, Çin ve Rusya'da yapay zeka halihazırda askeri alanda büyük ölçüde düzenlemesiz ve sınırsız bir şekilde kullanılıyor. Kısa bir süre önce Kaliforniya, yapay zekaya yönelik yasal kontrollerin getirilmesini reddetti.
Bundeswehr'in misyonu ve askeri etkinlik zinciri boyunca savaş kabiliyetinin elde edilmesi için, yüz tanıma, konuşma ve topo analizi veya hareket profilleri gibi yeni AB yönetmeliği tarafından yasaklanan veya sıkı bir şekilde düzenlenen yapay zeka sistemleri özellikle ilgi çekicidir. .
Ancak bilgi birikimi ve kaynak eksikliği nedeniyle Bundeswehr operasyonel, yüksek performanslı yapay zeka sistemlerini tek başına geliştirip tanıtamaz. Bunun için güçlü pazar ortaklıkları gerekiyor.
Savunma Bakanlığı öncelikle yeni kurulan şirketlere yoğun destek sağlamaya odaklanıyor. Bundeswehr'in (yazılım tanımlı savunma) dijitalleştirilmesi, yeni kurulan şirketlerle işbirliği içinde teşvik edilecek.
Bakanlık köpek yavrusu koruması ve birçok açıdan ücretsiz deney alanları alıyorlar. Bir yan etki, Almanya'nın dijital egemenliğinin gelişmesidir.
Endüstriyel sağlayıcılar için, ister start-up ister BigTech olsun, tek müşteri olarak Bundeswehr elbette uzun vadede çekici değildir. Ancak yapay zeka uygulamalarının ticari açıdan sivil kitle pazarına yönelik olarak test edilmesi ve devreye alınması durumunda ciddi bir iş ortağı olarak değerlendirilebilir.
Çift kullanımlı bir teknoloji
Bundeswehr'e yönelik yapay zeka genellikle sivil kullanıma yönelik gelişmeler ve uygulamalardan askeri amaçlarla değiştirilmekte, uyarlanmakta ve tanıtılmaktadır. Çift kullanımlı teknoloji olarak bilinen şey budur.
Malların sivil-asker karma sınıflandırması için, bunların tamamen veya kısmen kullanılmasının nesnel olasılığı yeterlidir. Kullanım amacı veya fiili kullanım gibi sübjektif özellikler belirleyici değildir.
Bunun bir örneği, sağlık sektöründeki fiziksel anormallikleri (kanser hücrelerini) vücut taraması yoluyla tespit edip bunlarla mücadele edebilen, ancak sadece birkaç ayarlamayla zırhlı araçların yerini tespit etmek ve imha etmek için askeri durum görüntülerini de değerlendirebilen bir yapay zeka sistemidir. Her durumda, dijital yakınsamaya yönelik küresel eğilim, kaçınılmaz olarak BT ürünlerinin amaçlarının birleşmesine yol açmaktadır.
Yapay zeka yönetmeliği, yapay zekanın askeri, savunma ve güvenlik alanlarında kullanımına ilişkin düzenlemeleri de içeriyor. Yalnızca askeri veya polis amaçlarına yönelik üretim veya pazarlama yapılırken katı düzenleyici sistem göz ardı edilir. Bu durumda güvenlik ve savunma sektörü özellikle ayrıcalıklı kılınmakta ve standart kapsamından muaf tutulmaktadır.
Bu, düşmanca veya düşmanca bloklardaki askeri yapay zeka kullanıcılarıyla eşit düzeyde olmak için gerekli kapsamı yaratır. Askeri yapay zeka sistemleri için kontrol standardı, yalnızca evrensel olarak uygulanabilir uluslararası hukuktur.
Ancak açıklanamayan şey, AI düzenlemesinin savunma ayrıcalığının, büyük ve pratik olarak daha önemli olan çift kullanımlı AI sistemleri grubu için geçerli olmamasıdır. Yönetmeliğin standart kısmında bu konuda açık ve net bir açıklama bulunmamaktadır. Düzenlemenin açıklamalarından elde edilen yorumlayıcı yardımların makul bir çözüme katkıda bulunup bulunmayacağı, teknik hukuki nedenlerden dolayı tamamen belirsizliğini koruyor.
AI düzenlemesi doğrudan uygulanabilir bir yasadır ve Alman yasama organı tarafından uygulama ve açıklama yapılmasına yönelik herhangi bir önemli kapsam sağlamamaktadır. AB Parlamentosu ve Konseyi, burada düşünürken ve tasarıyı hazırlarken potansiyel olarak ciddi bir hata yaptı. Çünkü görünüşe göre özellikle yapay zeka sistemlerinin dış tehditlere karşı savunmada son derece önemli bir rol oynayabileceğinin farkında değillerdi.
Sonuç olarak, Bundeswehr ve özel pazar ortakları artık tamamen Yapay Zeka Yönetmeliği kapsamındaki düzenlemelere tabidir. İhlallerin yıkıcı hukuki sonuçları vardır. Uygulamada bu, büyük bir belirsizliğe ve ilgili aktörler üzerinde dayanılmaz bir yüke yol açmaktadır.
AB düzenleyici kendi hedefi
Yapay zekanın güvenlik ve savunma alanlarındaki potansiyeli şimdilik kullanılamıyor. Bundeswehr'in askeri savunma kabiliyeti ve savaş kabiliyetine ilişkin genel hedef, AB'nin kendi düzenleyici hedefi tarafından sorgulanıyor.
Avrupa Birliği, güvenlik politikası durumundaki mevcut değişiklikleri dijital mevzuatına yeterince yansıtmadığı yönündeki eleştirileri kabul etmelidir.
Jan Byok bir avukat, yazar, öğretim görevlisi ve aynı zamanda bir albaydır.