Uzmanından kritik altyapılarda yapay zeka tehlikesine karşı uyarı!
Yapay zeka, iş gücünü tehdit ediyor!
Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almanın değerine işaret eden uzmanlar, otomasyon ve yapay zekanın, muhakkak dallarda işsizliğe neden olabileceğini söylüyor.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epeyce, siber atak ve makûs niyetli kullanım riskinin de arttığını vurgulayan Prof. Dr. Burhan Pektaş, “Kişisel bilgilerinizi toplumsal medyada ve öbür çevrimiçi platformlarda paylaşma konusunda dikkatli olun.” ikazında bulundu.
Üsküdar Üniversitesi Mühendislik ve Tabiat Bilimleri Fakültesi (MDBF) Dekan Yardımcısı, Bilgisayar Mühendisliği (İng) Kısmı Lideri Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim hataları konusunu kıymetlendirdi.
Yapay zekanın gelecekteki gelişimi belirsiz…
Yapay zekanın (AI) gelecekteki gelişiminin epey bilinmeyen olduğunu tabir eden Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Ancak bilim topluluğunun yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örnek vermek gerekirse; yapay zekanın vakitle daha karmaşık ve yetenekli hale gelmesi olasıdır. Makine tahsili, hudut ağları ve başka yapay zeka teknolojilerindeki ilerlemeler, karmaşık misyonları daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”
Gizlilik problemleri ve mümkün berbata kullanımla ilgili telaşlar var!
Yapay zeka teknolojileri ilerledikçe etik konular, kapalılık sıkıntıları ve mümkün berbata kullanımla ilgili tasalar ve tartışmaların artacağına da işaret eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir biçimde geliştirilmesini ve konuşlandırılmasını sağlamak için bilim topluluğunun ve siyaset yapıcıların bu zorlukları ele alması gerekecektir. Yapay zekanın sıhhat ve eğitimden ulaşım ve cümbüşe kadar günlük hayatın çeşitli istikametlerine daha fazla entegre olması bekleniyor. Bu entegrasyon, verimliliğin ve rahatlığın artmasını sağlayabilir fakat tıpkı vakitte toplumsal tesirler ve işten çıkarmalarla ilgili soruları da gündeme getirir.” dedi.
Yapay zeka işsizliğe neden olabilir mi?
Yapay zekanın pek çok yarar sağlama potansiyeline sahipken tıpkı vakitte telaşları ve potansiyel riskleri de beraberinde getirdiğini anlatan Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almak kıymetlidir. Otomasyon ve yapay zeka, belli bölümlerde işlerin yerinden edilmesine yol açarak potansiyel olarak ekonomik aksamalara ve işsizliğe neden olabilir. Bu değerli bir telaş kaynağıdır ve işgücüne yine marifet kazandırma ve yeni iş fırsatları yaratma uğraşları hayati ehemmiyet taşıyacaktır.
Yapay zeka sistemleri, kendilerini eğitmek için kullanılan datalarda mevcut olan önyargıları devralabilir ve bu da adil olmayan yahut ayrımcı sonuçlara yol açabilir. Düzgün bir halde ele alınmazsa, bu önyargı mevcut toplumsal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti üzere alanlarda adil olmayan muameleye yol açabilir.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epey, siber taarruz ve berbat niyetli kullanım riski de artıyor. Bilgisayar korsanları, bilgileri manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar yahut endüstriyel sistemler kelam konusu olduğunda fizikî ziyana neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”
Yapay zeka siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir
Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir tesirinin olduğunu lisana getiren Prof. Dr. Burhan Pektaş, “Yapay zeka, bir yandan siber güvenlik savunmalarını geliştirmek, tehdit algılamayı otomatikleştirmek ve olaylara müdahaleyi güzelleştirmek için güçlü bir araç olabilir. Öte yandan siber hatalılar, daha karmaşık ve maksada yönelik ataklar geliştirmek için yapay zekadan potansiyel olarak yararlanabilirler.” dedi.
Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliği ve siber kabahatleri etkileme yollarından kimilerini şöyle sıraladı:
“Hedefli ataklar: Siber hatalılar, son derece şahsileştirilmiş ve ikna edici içeriğe sahip amaç odaklı kimlik avı kampanyaları üzere daha karmaşık ve maksatlı ataklar gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.
Otomatik suistimaller: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”
Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir
Saldırganların, tespit sistemlerinden kaçabilecek rakip girdiler sunarak yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanabileceğini anlatan Prof. Dr. Burhan Pektaş, “Siber hatalılar, güvenlik sistemleri tarafından kullanılan savunma sistemlerini incelemek ve bunlara ahenk sağlamak için yapay zekayı kullanabilir, bu da onların taktiklerini iddia etmeyi ve bunlara karşı koymayı daha güç hale getirebilir.” dedi.
Sahte içerik oluşturma…
Prof. Dr. Burhan Pektaş, yapay zeka tarafından oluşturulan deepfake (sahte) içeriklerin bireyleri yahut kuruluşları aldatmak için gerçekçi görünen lakin düzmece sesli yahut manzaralı bildiriler oluşturarak toplumsal mühendislik taarruzları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, siber tehditlere yeni boyutlar kazandırarak saldırganların yapay zekayı makûs emellerle kullanma potansiyeline sahip olmasını sağladı.” diye konuştu.
Siber taarruz için kimlik avı e-postaları oluşturulabilir
Saldırganların siber ataklarını geliştirmek için yapay zekayı berbata kullanabileceği çeşitli yollar olduğunu da söz eden Prof. Dr. Burhan Pektaş, “Saldırganlar, yüksek seviyede gayeye yönelik ve ikna edici kimlik avı e-postaları oluşturmak gayesiyle büyük data kümelerini ve toplumsal medya profillerini tahlil etmek için yapay zekayı kullanabilir. Bu, bireylerin yasal ve makûs niyetli bildirileri ayırt etmesini zorlaştırır.” dedi.
Hedefteki kişi kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturabilir
Yapay zekanın, klasik imza tabanlı antivirüs tahlillerinden kaçmak için kodunu ve görünümünü dinamik olarak değiştirebilen, çok biçimli, makûs hedefli yazılım oluşturmak için kullanılabileceğini de kaydeden Prof. Dr. Burhan Pektaş, “Yapay zeka algoritmaları, berbat emelli yazılım çeşitlerinin oluşturulmasını otomatik hale getirebilir, bu da güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırır. Saldırganlar, yasal bireylerin kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. Bu, toplumsal mühendislik hücumları yahut yanlış bilgi yaymak için kullanılabilir.”
Yapay zeka takviyeli sohbet robotlar kamuoyunu manipüle etmek için kullanılabilir
Yapay zeka takviyeli sohbet robotları yahut toplumsal botların, çevrimiçi etkileşimlerde insan davranışını taklit etmek, dezenformasyon yaymak, toplumsal mühendislik hücumları gerçekleştirmek yahut kamuoyunu manipüle etmek için kullanılabileceğini de anlatan Prof. Dr. Burhan Pektaş, “Saldırganlar, güvenlik gayesiyle kullanılan yapay zeka modellerinin eğitim bilgilerini manipüle etmeye çalışabilir.” diye bilgi verdi.
Kişisel bilgilerin güvenliği
Yapay zekanın, şahsî data güvenliği üzerinde kıymetli bir tesirinin var olduğunu, etik ve kapalılık tasalarının da ortaya çıktığını tabir eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için çoklukla kapsamlı bilgi kümelerine dayanır. Bu bilgi kümeleri hassas şahsî bilgiler içerdiğinde etik telaş ortaya çıkıyor ve data toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkıyor. Etik uygulamalar, bireylerin şahsî datalarını toplamadan ve işlemeden evvel aydınlatılmış onamlarının alınmasını içerir. Bilgilerin nasıl kullanılacağını açıklamanın şeffaflığı çok kıymetlidir.” dedi.
Bilişim cürümlerine karşı korunmak için bireyler ve kurumlar neler yapabilir?
Siber hatalara karşı muhafazanın, proaktif tedbirlerin, güvenlik uygulamalarının ve daima dikkatin bir kombinasyonunu içerdiğini kaydeden Prof. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik tekliflerini şöyle sıraladı:
Güçlü ve eşsiz şifreler kullanın: Karmaşık şifreler oluşturun ve birebir şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, eşsiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.
Çok faktörlü kimlik doğrulamayı (MFA) etkinleştir: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA’yı uygulayın.
Yazılımı şimdiki tutun: Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları tertipli olarak güncelleyin.
E-postalara karşı dikkatli olun: Şüpheli ilişkilere tıklamaktan yahut bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, bilhassa de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.
Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas süreçler için halka açık Wi-Fi kullanmaktan kaçının.
Güvenlik yazılımını kurun ve güncelleyin: Saygın bir antivirüs ve makus gayeli yazılımdan müdafaa yazılımı yükleyin ve yeni tutun.
Önemli dataları yedekleyin: Kritik bilgileri tertipli olarak harici bir aygıta yahut inançlı bir bulut hizmetine yedekleyin.
Haberdar olun: Saygın kaynaklar aracılığıyla şimdiki siber tehditler ve en düzgün güvenlik uygulamaları hakkında aktüel bilgilere sahip olun.
Kişisel bilgi paylaşımını sınırlayın: Kişisel bilgilerinizi toplumsal medyada ve başka çevrimiçi platformlarda paylaşma konusunda dikkatli olun
Kaynak: (BYZHA) Beyaz Haber Ajansı
