10924,53%-1,34
42,20% 0,24
48,86% 0,30
5429,94% 0,77
9007,06% 0,59
Yeni teknolojilerle gelen zorluklar
Start-up’ların yapay zekâ teknolojilerini, siber güvenlik alanındaki çalışmalarını inceleyen uzmanlar güvenlik kategorisinin çok fazla dinamiği olduğunun altını çizerek, kullanılan yapay zekâ araçlarının bunlardan sadece bir tanesi olduğunu vurguluyorlar. Uzmanlar yapay zekâ teknolojileri ve güvenlik araçlarının dikkatlice incelenmesi ve kıyaslanması gerektiğini belirtiyorlar.
Teknoloji hem iş hayatımızın hem de gündelik yaşamımızın ayrılmaz bir parçası haline geldi.
Bu hızlı ve kapsayıcı dijitalleşme dönemi siber güvenliğin önemini her sektörde hissettiriyor. Yapay zekâ ve ona bağlı olarak gelişen iş kolları yeni girişimleri, start-up’ları da cezbediyor. Büyük teknoloji firmaları tarafından satın alınma umudu ile ortaya çıkan ve popülerleşen yapay zekâ tabanlı start-up’ların bir kısmının iş sonuçları henüz istenilen değerlerden uzak görünüyor. Siber güvenlik şirketi ESET, yapay zekâ ve makine öğrenimini (ML) her zaman güvenlik çarkının sadece bir dişlisi olarak gördüklerinin altını çizerek güvenliğin birçok bileşeni olduğunun altını önemle çiziyor.
Yapay zekâ siber güvenlik için kullanılan araçlardan sadece bir tanesi
Uzmanları zor olanın sadece yapay zekâ güvenliği olmadığını aktararak tanım gereği, güvenlik yazılımlarının yüzeyin derinliklerinde gerçekleşen "kötü şeyleri" izlemek için düşük seviyeli işletim sistemi kaynaklarına erişimi ve etkileşimi olduğunu; bunun aynı zamanda aşırı endişeli bir güncellemenin bir bilgisayarın ya da bulutu oluşturan birçok bilgisayarın başına iş açabileceği anlamına geldiğini belirterek çok dikkatli olunması gerektiğini özellikle vurguluyorlar . Teknoloji muazzam bir güç ve çeviklik sunsa da kötü aktörlerin sinsi bir istismarla küresel bir bulutu ele geçirerek bir dizi şirketi alaşağı edebileceği uyarısında da bulunuyorlar.
Yapay zekâ güvenliğini kıyaslayın
Henüz emekleyen bir sektörün raydan çıkmasına engel olmak adına, LLM'ler için uygulanabilecek ölçütleri tanımlamak üzere sıkı bir çalışma yürüten ekipler de var. Bu ekipler kullanılabilir bir referans üretmeye çalışıyorlar ve "şu anda neyin mümkün olup neyin mümkün olmadığına dair net bir resme sahip olmanın zor olduğu konusunda hemfikirler. Kanıta dayalı kararlar almak için karar alma sürecini ampirik ölçümlere dayandırmak gerekiyor. Bunlar bir start-up değiller, yani bir grup araştırmacıyı görevin gerektireceği zor ve sıkıcı işi yapacak kadar uzun süre bir arada tutmak için gereken önemli kaynaklara sahipler. Bu ekipler önceki çalışmalarında "otomatik istismar üretimi, güvensiz kod çıktıları, LLM'lerin siber saldırılara yardımcı olmayı kabul ettiği içerik riskleri ve hızlı enjeksiyon saldırılarına duyarlılık" gibi konuları ele almışlardı. En yeni sürüm "otomatik sosyal mühendislik, manuel saldırgan siber operasyonların ölçeklendirilmesi ve otonom siber operasyonlar dahil olmak üzere saldırgan güvenlik yeteneklerine odaklanan yeni alanları" da kapsayacak. Kamuya da açık olan The National Institute of Standards and Technology (NIST) gibi grupların çalışmaları bu nedenle çok önemle takip ediliyor.
