İpekyol yapay zekası Vera’yı kullanırken kendi veri güvenliğini nasıl koruyor?

Dün Patronlar Dünyası’nda Ipekyol Group’un yeni yapay zekâ platformu VERA’yı yazdık.

IPEKYOL, Twist ve MACHKA’nın mağaza ve operasyon verilerini aynı yapı içerisinde analiz edebilen VERA’nın yetenekleri etkileyiciydi.

Satışları analiz ediyor, Excel dosyalarını okuyor, rapor hazırlıyor, trendleri buluyor, sonuçların olası nedenlerini yorumluyor.

Biz ise “Bu kadar çok şey bilen VERA ne kadar güvenli?” sorusunu sorarak başka bir pencereden baktık.

Ipekyol Group’a yapay zekâ modelinden verilerin üçüncü taraflara çıkıp çıkmadığına, üç marka arasındaki yetkilendirmeden insan kontrolüne kadar sorular yönelttik.

Yanıt Ipekyol Group CTO’su Tarık Zengin’den geldi.

Tarık Zengin, en kritik sorumuzdan kaçınmadı.

VERİ ÜÇÜNCÜ TARAFA ÇIKIYOR MU?

Evet.

Zengin, VERA’da piyasadaki güncel çevrimiçi yapay zekâ modellerinin hibrit bir yapıda kullanıldığını söyledi.

Bu nedenle şirket verilerinin üçüncü taraf sistemlere “temas ettiğini” açıkça kabul ediyor.

Ancak önemli bir ayrım yapıyor.

Ipekyol’un açıklamasına göre dışarı gönderilen veri önce şirketin oluşturduğu özel bir veri hattından geçiriliyor. Özel bilgiler anonimleştiriliyor ve maskeleniyor.

Böylece dışarıdaki modelin ham şirket verisini görmesinin önüne geçildiği belirtiliyor.

Zengin ayrıca kurumsal hesaplar kullandıklarını ve model sağlayıcılarının bu verileri kendi modellerinin eğitiminde kullanmayacağını garanti ettiğini söylüyor.

ÜÇ MARKANIN VERİSİNİ HERKES GÖREBİLİR Mİ?

Dünkü yazımızın en önemli sorularından biri buydu.

IPEKYOL, Twist ve MACHKA’nın verileri aynı yapı içerisindeyse bir çalışan VERA’ya farklı sorular sorarak normalde ulaşamayacağı ticari bilgilere erişebilir mi?

Zengin bunun mümkün olmadığını söylüyor.

VERA’da rol bazlı yetkilendirme ve “Zero Trust” mimarisi uygulanıyor.

Buna göre VERA, kullanıcının şirket sistemlerindeki mevcut yetkisinin dışına çıkamıyor

Çalışan hangi veriyi görmeye yetkiliyse VERA üzerinden de yalnızca o sınırlar içerisinde kalıyor.

EXCEL’İ ÖNCE BAŞKA BİR YAPAY ZEKÂ KONTROL EDİYOR

VERA’ya Excel ve başka dokümanlar da yüklenebiliyor.

Burada Ipekyol’un kurduğu sistemin ilginç bir başka katmanı ortaya çıkıyor.

Zengin’in açıklamasına göre yüklenen dosyalar doğrudan işleme alınmıyor.

Önce şirketin kendi sistemindeki çevrimdışı yapay zekâ modelleri tarafından taranıyor.

Dosyanın kullanıcının yetkileri doğrultusunda kullanabileceği verileri içerip içermediği kontrol ediliyor.

Üstelik denetlenen yalnızca dosyalar değil.

Çalışanların VERA’ya yazdığı komutlar da çevrimdışı modeller tarafından anlık olarak kontrol ediliyor.

Şüpheli bir kullanım tespit edilirse konu ilgili denetim ekibine aktarılıyor.

Zengin ayrıca sistemin Türkiye’deki bulut altyapısında barındırıldığını belirtiyor.

PEKİ VERA YANLIŞ YORUMLARSA?

Dünkü yazımızda özellikle bu riskin üzerinde durmuştuk.

Bir mağazanın satışının düştüğünü söylemek veri.

Satışın neden düştüğünü söylemek ise yorum.

VERA’nın “uzman modu” bu tür ilişkileri ve olası nedenleri de analiz edebiliyor.

Peki yapay zekâ yanlış bir ilişki kurar ve yönetici buna göre ticari karar alırsa?

Ipekyol burada sınırı insanla çiziyor.

Zengin, VERA’nın bir “karar mercii” olmadığını söylüyor.

Şirketin uyguladığı “Human-in-the-Loop” prensibine göre VERA veriyi analiz ediyor ve içgörü üretiyor; doğrulama, yorumlama ve nihai ticari karar ise yöneticilere bırakılıyor.

Başka bir ifadeyle:

VERA analiz ediyor, insan karar veriyor.

“İNSANIN YERİNE GEÇMEYECEK”

Bir başka tartışmamız ise yapay zekânın insan emeği üzerindeki etkisiydi.

Ipekyol bu konuda rakam vermedi.

Ancak Zengin, VERA’nın iş gücünü azaltmak amacıyla tasarlanmadığını özellikle vurguluyor.

Amaçlarının tekrarlayan ve zaman alan işleri hızlandırarak çalışanların zamanlarını daha yüksek katma değerli işlere ayırmasını sağlamak olduğunu söylüyor.

Ipekyol’un yaklaşımını tek cümleyle özetlersek:

VERA insanın yerine değil, yanına geliyor.

DÜN SORDUK, BUGÜN CEVAP GELDİ

Ipekyol’dan bize ilk gelen basın bülteni VERA’nın neler yapabildiğini anlatıyordu.

Biz ise bültende anlatılmayan tarafını merak ettik.

“Peki ya güvenlik?” dedik.

Tarık Zengin sorularımızı geçiştirmedi.

Verinin üçüncü taraf sistemlere temas ettiğini de söyledi, nasıl korunduğunu da anlattı. Yetkilendirme sistemini, dosyaların ve kullanıcı komutlarının nasıl denetlendiğini, nihai kararın neden insanda bırakıldığını açıkladı.

Bence yapay zekâ çağında şirketlerle medya arasındaki ilişkinin de biraz böyle olması gerekiyor.

Şirketler yalnızca yapay zekâlarının neler yapabildiğini anlatmamalı.

Biz de yalnızca onların anlattıklarını yazmamalıyız.

Çünkü şirketler için yeni yarış artık sadece,

“Kimin yapay zekâsı daha akıllı?”

yarışı olmayacak.

Bir soru daha en az onun kadar önemli olacak:

“Kimin yapay zekâsı daha güvenli?”

patronlardunyasi.com

İLGİLİ HABER

İpekyol, Twist ve Machka’yı yapay zeka uygulaması Vera’ya emanet etti, peki ya güvenlik?