Dronlar ve insansız araçlar için silah olarak: neden bilgisayar korsanlarından korkmamız gerekiyor?

<

Yapay zeka yanlış ellere düşerse, medeni dünya kaosa girebilir.

Yapay zekanın hayatımızı yeni bir düzeye çıkarabileceğini kimse inkar edemez. AI, insan gücünün ötesindeki birçok sorunu çözebilir.

Bununla birlikte, birçok kişi süperminin kesinlikle SkyNet olarak bizi yok etmek isteyeceğine ya da oyun Portalı'ndan GLADoS gibi insanlar üzerinde deneyler yapmaya başlayacağına inanıyor. Buradaki ironi, sadece insanların yapay zekayı iyi ya da kötü yapabileceğidir.

Peki, bundan sonra dünyayı nasıl ele geçirmemeli

Yale Üniversitesi, Oxford, Cambridge ve OpenAI'deki araştırmacılar yapay zekanın kötüye kullanımı hakkında bir rapor yayınladılar. Gerçek tehlikenin bilgisayar korsanlarından kaynaklandığı yazıyor. Kötü niyetli kodların yardımıyla, AI çalıştıran otomatik sistemlerin çalışmasını bozabilirler.

Araştırmacılar, iyi niyetli olarak oluşturulan teknolojilerin zarar vermek için kullanılacağından korkuyor. Örneğin, sürveyans teçhizatı sadece teröristleri yakalamak için değil, sıradan vatandaşları gözetlemek için de kullanılabilir. Araştırmacılar ayrıca yiyecek getiren ticari uçaklar konusunda endişeli. Patlayıcı bir şeyi yakalamaları ve içine almaları kolaydır.

AI'nın yıkıcı kullanımının bir başka senaryosu da insansız araçlardır. Birkaç kod satırını değiştirmek yeterlidir ve makineler güvenlik kurallarını görmezden gelmeye başlayacaktır.

İzleyici Köpeklerde, bilgisayar korsanı şehirdeki tüm sistemlerin kontrolünü ele geçirdi ve işte bu böyle oldu.

Bilim adamları tehdidin dijital, fiziksel ve politik olabileceğine inanıyor.

  • Yapay zeka, çeşitli yazılım kodlarının zayıf yönlerini incelemek için zaten kullanılıyor. Gelecekte, bilgisayar korsanları herhangi bir korumayı atlayacak bir bot oluşturabilir.
  • AI'nın yardımıyla bir kişi birçok işlemi otomatikleştirebilir: örneğin, bir İHA sürüsü veya bir araba grubu yönetebilir.
  • DeepFake gibi teknolojilerin yardımıyla, Internet’teki botların yardımıyla dünya liderleri hakkında yanlış bilgiler yayarak devletin politik yaşamını etkileyebilirsiniz.

Bu korkutucu örnekler şimdiye kadar sadece bir hipotez olarak var. Çalışmanın yazarları, teknolojinin tamamen reddedilmesini önermemektedir. Bunun yerine, yapay zeka endüstrisi yeni ortaya çıkarken hükümetlerin ve büyük şirketlerin güvenliğe dikkat etmesi gerektiğine inanıyorlar.

Politikacılar yapay zekanın yaratılmasını ve kullanılmasını etkin bir şekilde düzenlemek için teknolojiyi incelemeli ve bu alandaki uzmanlarla çalışmalıdır.

Geliştiriciler, sırayla, yüksek teknolojinin yarattığı tehlikeleri değerlendirmeli, en kötü etkileri tahmin etmeli ve küresel liderleri onlar hakkında uyarmalıdır. Rapor, AI geliştiricilerinin diğer alanlardaki güvenlik uzmanlarıyla ekip kurmaya ve bu teknolojilerin güvenliğini sağlayan ilkelerin yapay zekayı korumak için kullanılıp kullanılamayacağını keşfetmeye çağırıyor.

Raporun tamamı sorunu daha ayrıntılı olarak açıklamaktadır, ancak sonuçta AI'nın güçlü bir araçtır. İlgili tüm taraflar yeni teknolojiyi araştırmalı ve cezai amaçlar için kullanılmadığından emin olmalıdır.

<

Popüler Mesajlar