“123456” Şifresiyle Olivia Botuna Sızıldı: 64 Milyon McDonald’s Başvuru Verisine Erişim Sağlandı

Günümüzde McDonald’s’ta iş başvurusu yapmak isteyen adaylar büyük olasılıkla ilk olarak Olivia ile karşılaşıyor. Olivia, aslında bir insan değil; adayları tarayan, iletişim bilgilerini ve özgeçmişlerini toplayan, onları kişilik testine yönlendiren ve zaman zaman en temel soruları bile anlayamayıp “delirten” bir yapay zeka sohbet botu.

Geçtiğimiz haftaya kadar Olivia'nın çalıştığı platform, Paradox.ai tarafından geliştirilen ve McHire.com üzerinden erişilen sistem, oldukça temel güvenlik açıklarına sahipti. Sonuç olarak, herhangi bir hacker, yöneticilere ait kullanıcı adı ve şifre kombinasyonunu “123456” gibi basit yollarla tahmin ederek McDonald’s başvuru yapan herkesin kişisel bilgilerine erişebiliyordu.

Güvenlik araştırmacıları Ian Carroll ve Sam Curry, McHire.com’un arka planına erişmek için kullanılan yapay zeka sohbet botu platformunun savunmasız olduğunu ortaya çıkardı. Carroll ve Curry, daha önce bağımsız güvenlik testlerinde deneyim kazanmış araştırmacılar olarak, web tabanlı basit açıkları kullanarak Paradox.ai hesabına erişim sağladılar. Şirketin veritabanlarında, Olivia ile yapılan tüm konuşmaların kayıtlarına ve başvuru yapan kişilerin isimleri, e-posta adresleri, telefon numaraları gibi kişisel bilgilerine ulaşabildiler. Toplamda 64 milyona yakın başvuru kaydının yer aldığı tespit edildi.

Carroll, bu kadar büyük bir güvenlik açığını yalnızca McDonald’s’ın işe alım sürecinde yapay zeka kullanımını “alışılmadık derecede distopik” bulduğu için araştırmaya başladığını belirtti. “Normal bir işe alım sürecine kıyasla gerçekten benzersiz derecede distopik olduğunu düşündüm. Bu yüzden daha yakından bakmak istedim.” diyen Carroll, “İşe başvurmak için kaydolduk ve 30 dakika içinde yıllar öncesine kadar yapılan neredeyse tüm McDonald’s başvurularına erişim sağladık.” ifadelerini kullandı.

WIRED dergisi, konuyla ilgili olarak McDonald’s ve Paradox.ai ile iletişime geçtiğinde, Paradox.ai tarafı Carroll ve Curry’nin bulgularını doğrulayan ve yayınlamayı planladıkları bir blog yazısını paylaştı. Şirket, araştırmacıların eriştiği kayıtların yalnızca küçük bir kısmının kişisel bilgi içerdiğini belirtti ve “123456” şifresine sahip yönetici hesabına araştırmacılar dışında kimsenin erişmediğini doğruladıklarını açıkladı. Ayrıca gelecekte benzer açıkları tespit etmek amacıyla bir “ödül programı” başlatacaklarını da duyurdu. Paradox.ai’nin hukuk sorumlusu Stephanie King, “Bu meseleyi hafife almıyoruz, her ne kadar hızlı ve etkili bir şekilde çözülmüş olsa da.” diyerek, “Bunun sorumluluğunu alıyoruz.” dedi.

McDonald’s ise WIRED’a yaptığı açıklamada, hatanın Paradox.ai kaynaklı olduğunu kabul etti: “Üçüncü taraf sağlayıcımız Paradox.ai’den kaynaklanan bu kabul edilemez güvenlik açığından dolayı hayal kırıklığına uğradık. Konudan haberdar olur olmaz, durumu derhal düzeltmeleri talimatını verdik ve sorun bize bildirildiği gün içinde çözüldü.” ifadesine yer verildi. “Siber güvenliğe olan bağlılığımızı ciddiyetle sürdürüyoruz ve üçüncü taraf sağlayıcılarımızın veri koruma standartlarımıza uymasını sağlamaya devam edeceğiz.” açıklamasında bulunuldu.

Carroll, güvenlik açığını fark etmeden önce Reddit’te, Olivia sohbet botunun adayların zamanını boşa harcadığına ve saçma yanıtlar verdiğine dair şikayetler gördüğünü ve ardından arkadaşlarıyla birlikte sistemde “prompt injection” denemeleri yaptıklarını söyledi. Bu tür saldırılar, büyük dil modellerinin korumalarını aşmak için özel komutlarla sistemin kontrolünü ele geçirmeye çalışır. Bu yöntemin işe yaramadığını gördüklerinde, McHire.com üzerinde Paradox.ai personeline özel bir oturum açma bağlantısı keşfettiler.

Ardından Carroll, dünya genelinde en sık kullanılan iki şifre kombinasyonunu denedi: “admin/admin” ve ardından “admin/123456”. İkinci kombinasyon işe yaradı. “Düşündüğünüzden daha yaygın.” diyen Carroll, sistemin çok faktörlü kimlik doğrulaması da içermediğini belirtti.

Oturum bilgileriyle sisteme erişen ikili, test ortamındaki bir McDonald’s restoranı üzerinde yönetici erişimi elde etti. Buradaki tüm çalışanların Paradox.ai geliştiricileri olduğunu fark ettiler. Sistem içinde sahte iş ilanlarına ulaşarak bir ilana başvuruda bulundular ve kendi başvurularını arka planda görebildiler. Paradox.ai’nin blog yazısında belirtildiğine göre, bu test hesabına 2019’dan beri giriş yapılmamış ve aslında sistem dışına alınması gerekiyordu.

Ancak asıl kritik açık, uygulama kimlik numarasını değiştirerek başkalarının başvuru verilerine erişebilmeleriyle ortaya çıktı. 64 milyonun üzerinde başvuru numarasını aşağı yönde sıralayarak, rastgele kişilerin sohbet geçmişlerine ve iletişim bilgilerine ulaşabildiler. Araştırmacılar, gizlilik ihlali veya yasal sorunlardan kaçınmak için yalnızca birkaç kaydı kontrol etti. Paradox.ai’ye göre yalnızca yedi kayıt incelendi ve bunlardan beşi kişisel bilgi içeriyordu. WIRED, sızdırılan bilgilerde yer alan iki başvuru sahibiyle iletişime geçti ve her iki kişi de belirtilen tarihlerde McDonald’s’a iş başvurusu yaptıklarını doğruladı.

Carroll ve Curry, sızdırılan bilgilerin çok hassas olmadığını ancak kişisel verilerin iş arama niyetiyle ilişkilendirilmesinin riski artırdığını belirtti. Curry, “Eğer biri bu açığı sömürseydi, kimlik avı riski çok büyük olurdu. Bu sadece kişisel tanımlayıcı bilgi ve özgeçmiş değil. Aynı zamanda McDonald’s’ta iş arayan insanların bilgileri. E-posta yanıtı bekleyen umutlu insanlar.” ifadelerini kullandı.

Bu veriler, dolandırıcılar tarafından McDonald’s işe alım görevlisi kılığına girilerek banka bilgileri istemek gibi amaçlarla kullanılabilirdi. Curry, “Bir maaş dolandırıcılığı yapacak olsaydınız, bu gayet uygun bir yöntem olurdu.” dedi.

Araştırmacılar ayrıca, minimum ücretli pozisyonlar için yapılan başvuru geçmişlerinin ifşa olmasının bazı kişiler için utanç verici olabileceğine de dikkat çekti. Ancak Carroll, “McDonald’s çalışanlarına büyük saygım var.” diyerek, “Sık sık McDonald’s’a giderim.” ifadeleriyle konunun hassasiyetini vurguladı.

‍

‍

‍

‍

Kaynak: https://www.wired.com/story/mcdonalds-ai-hiring-chat-bot-paradoxai/