
Okullar İçin Evden Deneme Sınavı: LGS ve YKS Denemelerinde Güvenlik
Deneme sınavı, öğrencinin gerçek sınava ne kadar hazır olduğunu gösteren aynadır. Ayna bulanıksa, ya...
Avrupa Birliği'nin Yapay Zekâ Yasası (Regulation (EU) 2024/1689), yapay zekâ kullanan her sınav gözetim sistemini doğrudan ilgilendiriyor. AB Yapay Zekâ Yasası sınav gözetimi için iki net çizgi çiziyor. Birincisi, eğitim kurumlarında kişinin duygularını çıkaran yapay zekâ sistemlerini yasaklıyor. İkincisi, sınav sırasında yasaklı davranışı izleyen sistemleri yüksek riskli sayıyor ve bu sistemlerin insan tarafından etkili biçimde denetlenmesini istiyor.
Bu yazıda yalnız Yasa'nın EUR-Lex'te yayımlanan metninden doğruladığımız maddeleri aktarıyoruz. Yasa'nın genel uyum adımlarını daha önce AB Yapay Zekâ Tüzüğü uyum rehberimizde anlattık. Bu yazı iki konuya odaklanıyor: duygu tanıma yasağı ve insan gözetimi.
Not: Bu yazı genel bilgilendirme amaçlıdır, hukuki tavsiye değildir. Maddeler Yasa'nın ilk yayımlanan metninden aktarılmıştır. Sonradan yapılan değişiklikler ve uygulama takvimi için EUR-Lex'teki güncel konsolide metne ve hukuk danışmanınıza başvurun.
Yasa'nın 2. maddesi kapsamı yalnız AB'de kurulu şirketlerle sınırlamaz. Üçüncü bir ülkede kurulu sağlayıcı ve kullanıcılar da, yapay zekâ sisteminin ürettiği çıktı AB'de kullanılıyorsa kapsama girer (m. 2/1-c). Bu nedenle şu durumlarda Yasa'yı dikkate almanız gerekir:
Yasa'nın 5. maddesi "yasaklanan yapay zekâ uygulamalarını" sayar. 5/1-f bendi, işyeri ve eğitim kurumlarında gerçek kişilerin duygularını çıkarmak için yapay zekâ sistemlerinin piyasaya sunulmasını, hizmete alınmasını ve kullanılmasını yasaklar. Tek istisna, tıbbi ya da güvenlik amaçlı kullanımdır.
Yasa'nın 3. maddesinin 39. bendi "duygu tanıma sistemini" de tanımlar: gerçek kişilerin biyometrik verilerine dayanarak duygularını ya da niyetlerini belirlemeye veya çıkarmaya yönelik yapay zekâ sistemi.
Sınav gözetimi açısından bunun anlamı şudur: Adayın "gergin", "endişeli" ya da "kopya çekmeye niyetli" olduğunu yüzünden veya sesinden çıkaran bir sistem, eğitim bağlamında yasak alana girer. Yasa'nın ilk metnine göre I. ve II. bölümler (yasaklar dahil) 2 Şubat 2025'ten itibaren uygulanır (m. 113/a).
QProctor'un yapay zekâ analizleri gözlemlenebilir olaylara bakar:
| Analiz | Ne kontrol eder? |
|---|---|
| Canlılık | Kameradaki kişinin canlı olduğu (rastgele baş hareketi) |
| Bakış yönü | Adayın ekrandan uzun süre ayrılıp ayrılmadığı |
| Nesne tanıma | Telefon, kitap, ikinci ekran |
| Yüz doğrulama | Sınavdaki kişinin aktivasyondaki kişiyle aynı olup olmadığı |
| Kişi sayımı | Kadrajda birden fazla kişi olup olmadığı |
| Kimlik kartı okuma | T.C. no, ad ve soyadın okunması |
| Ses | Odada ikinci bir ses ya da konuşma |
| Işık ve netlik | Görüntünün değerlendirilebilir olup olmadığı |
Bu listede kişinin duygusunu ya da niyetini çıkaran bir analiz yoktur. Örüntü analizi de yalnız olayların süresine ve tekrarına bakar. Analizlerin ayrıntısı için AI gözetmen sayfasını inceleyebilirsiniz.
Yasa'nın 6. maddesinin 2. fıkrası, Ek III'te sayılan sistemleri yüksek riskli kabul eder. Ek III'ün 3. maddesi "eğitim ve mesleki eğitim" alanıdır ve dört kullanım sayar:
Son bent, online sınav gözetimini doğrudan anar.
Ayrıca 6. maddenin 3. fıkrası bazı istisnalar tanır. Örneğin dar bir prosedür görevi ya da insan değerlendirmesine hazırlık niteliğindeki sistemler belirli koşullarda yüksek riskli sayılmayabilir. Ancak bu değerlendirmeyi sağlayıcı belgelemek zorundadır. Kişilerin profilini çıkaran sistemler ise her durumda yüksek riskli kalır.
Yasa'nın 14. maddesi, yüksek riskli sistemlerin kullanım süresince gerçek kişiler tarafından etkili biçimde denetlenebilecek şekilde tasarlanmasını ister. 4. fıkra, gözetimle görevlendirilen kişinin şunları yapabilmesini bekler:
QProctor'un ilkesi "Yapay zekâ işaretler, kararı insan verir." Bu ilke ürünün şu parçalarına yansır:
Canlı gözetim araçlarının tamamı için canlı gözetim sayfasına bakabilirsiniz.
Yasa, sistemi kullanan kurumu "deployer" (uygulayıcı) olarak adlandırır ve 26. maddede yükümlülüklerini sayar. Sınav yapan kurumlar için öne çıkanlar şunlardır:
| Madde | Yükümlülük | Sınavda karşılığı |
|---|---|---|
| 26/1 | Sistemi kullanım talimatına uygun kullanmak | Gözetim ayarlarını sağlayıcının belgelerine göre yapmak |
| 26/2 | İnsan gözetimini yetkin, eğitimli ve yetkili kişilere vermek | İnceleme yapacak görevlileri belirlemek ve eğitmek |
| 26/6 | Sistemin otomatik ürettiği kayıtları amaca uygun bir süre, en az altı ay saklamak (AB ya da ulusal hukukta aksi yoksa) | Kayıt saklama süresini bu sınırı dikkate alarak belirlemek |
| 26/11 | Ek III sistemleriyle karar veren ya da karara yardımcı olan kurumun, kişileri sistemin kullanıldığı konusunda bilgilendirmesi | Adaya gözetimde yapay zekâ kullanıldığını önceden söylemek |
Ek olarak 27. madde, kamu hukukuna tabi kurumların ve kamu hizmeti sunan özel kuruluşların, belirli yüksek riskli sistemleri kullanmadan önce temel haklar etki değerlendirmesi yapmasını ister. 4. madde ise sağlayıcı ve kullanıcıların, sistemi kullanan personelin yapay zekâ okuryazarlığını sağlamak için önlem almasını bekler.
QProctor'da kayıt saklama süresini kurum seçer. Bu nedenle 26/6'daki asgari süreyi ve kendi veri koruma kurallarınızı birlikte değerlendirip süreyi ayarlayabilirsiniz. Veri merkezi bölgesi olarak AB seçilebilir.
86. madde, Ek III'teki bir yüksek riskli sistemin çıktısına dayanan ve kişiyi önemli ölçüde etkileyen bir karara konu olan kişiye, yapay zekânın karardaki rolü ve kararın ana unsurları hakkında açık ve anlamlı bir açıklama isteme hakkı tanır.
Bu hak, sınav sonrası itiraz sürecinizin kanıta dayalı olmasını gerektirir. QProctor'un kanıt dosyası bu açıklamayı kurmanıza yardım eder:
Bu kanıtlar görevliye "sistem ne gördü?" sorusunun yanıtını verir. "Ne karar verildi ve neden?" sorusunun yanıtını ise insan yazar. Kanıt dosyasının içeriği için kanıt ve rapor sayfasına bakabilirsiniz.
KVKK açısından yapılacakları ayrıca KVKK ve online sınav gözetimi yazımızda topladık.
İnsan kararını merkeze alan gözetimi deneyin. İnceleme modunu, kayıt oynatıcıyı ve duyarlılık ayarlarını kendi sınavınızda görün. 14 gün ücretsiz deneyin: 20 aday. Gizlilik ayrıntıları için gizlilik ve güvenlik sayfasına bakabilirsiniz.