Günümüzde birçok kişi işleri için ChatGPT üzere yapay hudut ağlarına dayalı lisan modellerini kullanıyor. Rusya’da yapılan bir Kaspersky anketi, iştirakçilerin %11’inin sohbet robotlarını kullandığını ve yaklaşık %30’unun gelecekte işlerin yerini alma potansiyeline inandığını ortaya koydu. Öteki anketler, Belçikalı ofis çalışanlarının %50’sinin ve Birleşik Krallık’takilerin %65’inin ChatGPT’ye güvendiğini gösteriyor. Ayrıyeten Google Trends’te “ChatGPT” arama teriminin hafta içinde öne çıkması, muhtemelen işle ilgili taleplere bağlı olarak kullanımda bariz bir artış olduğunu gösteriyor.
Ancak sohbet robotlarının iş yerindeki artan kullanımı çok kıymetli bir soruyu gündeme getiriyor: Hassas kurumsal datalar bu robotlara emanet edilebilir mi? Kaspersky araştırmacıları, ChatGPT’nin iş emelli kullanımıyla ilgili beş temel risk belirledi.
Sağlayıcı tarafında data sızıntısı yahut sisteme sızma
Her ne kadar LLM tabanlı sohbet robotları teknoloji devleri tarafından işletiliyor olsa da, onlar bile bilgisayar korsanlığına yahut sızıntılara karşı bağışık değildir. Örneğin ChatGPT kullanıcılarının oburlarının sohbet geçmişlerindeki mesajları görebildiği bir olay gerçekleşti.
Sohbet robotları aracılığıyla bilgi sızıntısı
Teorik olarak sohbet robotlarıyla yapılan yazışmalar gelecekteki modelleri eğitmek için kullanılabilir. LLM’lerin model kalitesini artırmayan, fakat saklılık riskleri oluşturan telefon numaraları üzere eşsiz dizileri hatırladıkları ve “kasıtsız ezberlemeye” hassas oldukları düşünüldüğünde, eğitim geçmişindeki rastgele bir dataya kazara yahut kasıtlı olarak öteki kullanıcılar tarafından bu model aracılığıyla erişilebilir.
Kötü niyetli istemci
Bu, ChatGPT üzere resmi hizmetlerin engellendiği yerlerde büyük bir telaş kaynağıdır. Kullanıcılar programlar, web siteleri yahut iletileşme botları üzere resmi olmayan alternatiflere başvurabilir ve mevcut olmayan istemci yahut uygulama olarak gizlenmiş kötü emelli yazılımları indirebilir.
Hesap ele geçirme
Saldırganlar, kimlik avı atakları yahut kimlik bilgisi doldurma yoluyla çalışan hesaplarına girerek bilgilerine erişebilir. Bunun yanında Kaspersky Digital Footprint Intelligence, dark web forumlarında nizamlı olarak chatbot hesaplarına erişim satan gönderiler buluyor.
ChatGPT ve Synthesia kurumsal hesabına 40 Dolar karşılığında erişim satan bir dark web gönderisi
Yukarıda bahsi geçen data kaybı, sohbet robotlarını kullanan kullanıcılar ve işletmeler için değerli bir kapalılık telaşı oluşturuyor. Sorumlu geliştiriciler, saklılık siyasetlerinde dataların model eğitimi için nasıl kullanıldığını ana çizgileriyle belirtir. Kaspersky’nin ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard ve Alloy Studios tarafından geliştirilen Genius App üzere tanınan sohbet botları üzerinde yaptığı tahlil, B2B dalında kurumsal bilgilerin açığa çıkma riskinin daha yüksek olması nedeniyle daha yüksek güvenlik ve saklılık standartları olduğunu gösteriyor. Sonuç olarak, data kullanımı, toplanması, depolanması ve işlenmesine ait karar ve şartlar, B2C dalına kıyasla daha fazla muhafazaya odaklanıyor. Bu çalışmadaki B2B tahlilleri çoklukla sohbet geçmişlerini otomatik olarak kaydetmiyor ve kimi durumlarda sohbet robotu müşterinin ağında lokal olarak çalıştığı için şirketin sunucularına hiçbir data göndermiyor.
Kaspersky Güvenlik ve Zımnilik Uzmanı Anna Larkina, şunları söylüyor: “LLM tabanlı sohbet robotlarının iş emelli kullanımına bağlı potansiyel riskleri inceledikten sonra, hassas bilgi sızıntısı riskinin en fazla çalışanların iş yerinde şahsî hesaplarını kullandıkları durumda ortaya çıktığını gördük. Bu durum, çalışanların chatbot kullanımının riskleri konusunda bilinçlendirilmesini şirketler için en değerli öncelik haline getiriyor. Öteki yandan çalışanların hangi dataların zımnî yahut şahsî olduğunu, ticari sır teşkil ettiğini ve neden bir chatbot’a verilmemesi gerektiğini anlamaları gerekiyor. Başka yandan şirketlerin de bu çeşit hizmetleri kullanmak için net kurallar belirlemesi gerekiyor.”
Sohbet robotlarını kullanmanın saklılığa dair riskleri hakkında daha fazla bilgi edinmek için Securelist.com adresini ziyaret edin.
Kaspersky uzmanları, şirketlerin sohbet robotlarını kullanmanın avantajlarından yararlanmaya devam etmeleri ve inançta kalmaları için şunları öneriyor:
- Güçlü, Eşsiz Parolalar Kullanın: Her bir hesabınız için karmaşık parolalar oluşturun ve doğum günleri yahut isimler üzere basitçe kestirim edilebilecek bilgileri kullanmaktan kaçının.
- Kimlik Avına Dikkat Edin: Şahsî bilgilerinizi isteyen istenmeyen e-postalara, iletilere yahut aramalara karşı dikkatli olun. Rastgele bir hassas datayı paylaşmadan evvel gönderenin kimliğini doğrulayın.
- Çalışanlarınızı Eğitin: Çalışanlar en son çevrimiçi tehditler ve çevrimiçi inançta kalmak için en güzel uygulamalar hakkında bilgi sahibi olmalıdır.
- Yazılımlarınızı Yeni Tutun: İşletim sisteminizi, uygulamalarınızı ve antivirüs programlarınızı nizamlı olarak güncelleyin. Bu güncellemeler çoklukla en son güvenlik yamalarını içerir.
- Kurumsal Bilgi Paylaşımını Sınırlayın: Şahsî bilgileri toplumsal medyada yahut herkese açık forumlarda paylaşma konusunda dikkatli olun. Yalnızca muhakkak gerekli olduğunda bu bilgileri paylaşın.
- URL’leri ve Web Sitelerini Doğrulayın: Bilhassa oturum açma kimlik bilgilerini girmeden yahut alışveriş yapmadan evvel ziyaret ettiğiniz web sitelerinin URL’sini iki kere denetim edin.
- Kurumsal Güvenlik Tahlili Kullanın: Çalışanların iş emeliyle güvenilmeyen sohbet robotlarına bağımsız olarak istişaresini önlemek için bulut hizmeti analitiği içeren bir güvenlik tahlili kullanabilirsiniz. Kaspersky Endpoint Security Cloud, özellikleri ortasında bulut hizmetlerini yönetmek ve kullanım risklerini pahalandırmak için Cloud Discovery’i içerir.
Kaspersky hakkında
Kaspersky, 1997 yılında kurulmuş global bir siber güvenlik ve dijital zımnilik şirketidir. Kaspersky’nin derin tehdit istihbaratı ve güvenlik uzmanlığı, dünya genelinde işletmeleri, kritik altyapıları, hükümetleri ve tüketicileri korumak için daima olarak yenilikçi tahlillere ve hizmetlere dönüşmektedir. Şirketin kapsamlı güvenlik portföyü, gelişmiş ve gelişen dijital tehditlerle gayret etmek için önde gelen uç nokta muhafazası, özel güvenlik eserleri ve hizmetleri ile Siber Bağışıklık tahlillerini içeriyor. 400 milyondan fazla kullanıcı Kaspersky teknolojileri tarafından korunmaktadır ve şirket 220.000’den fazla kurumsal müşterinin kendileri için en kıymetli olanı müdafaalarına yardımcı oluyor. kaspersky.com adresinden daha fazla bilgi edinin.
Kaynak: (BYZHA) Beyaz Haber Ajansı
