İnsan denetimi (human-in-the-loop)
İnsan denetimi, yapay zekânın yalnız işaretleyip kanıt sunduğu, aday hakkındaki kararın ise her zaman bir insan tarafından verildiği ilkedir.
İnsan denetimi (human-in-the-loop) nedir?
İnsan denetimi ya da döngüde insan (human-in-the-loop), otomatik bir sistemin önemli kararları tek başına vermediği, her kararın bir insan tarafından incelenip onaylandığı tasarım ilkesidir. Sınav gözetiminde bu, yapay zekânın şüpheli anları işaretlemesi ve kanıtı göstermesi, kopya olup olmadığına ve yaptırıma ise kurumdaki yetkili bir kişinin karar vermesi anlamına gelir.
İlke hem etik hem hukuki bir gerekliliktir. GDPR'nin 22. maddesi kişiler hakkında yalnız otomatik işlemeye dayalı ve onları önemli ölçüde etkileyen kararlara sınırlar getirir; KVKK da ilgili kişiye otomatik sistemlerle analiz sonucunda aleyhine çıkan sonuca itiraz hakkı tanır. AB Yapay Zekâ Yasası da eğitimde kullanılan yüksek riskli sistemler için insan gözetimini zorunlu tutar.
Uygulamada insan denetimi; inceleme yetkisinin tanımlanmasını, değerlendiricinin kayda erişmesini, adaya açıklama ve itiraz hakkı verilmesini gerektirir. QProctor bu ilkeyi uygular: AI işaretler ve kanıtı gösterir, aday hakkında otomatik karar yoktur.
İlgili terimler
Yapay zekâ destekli sınav gözetimi (AI gözetmen)
Yapay zekâ destekli sınav gözetimi, görüntü ve ses analiziyle şüpheli anları işaretler; kararı bu kanıtı inceleyen insan verir.
Tanımı oku →Yanlış pozitif (hatalı alarm)
Gözetimde yanlış pozitif, kural dışı bir şey olmadığı hâlde sistemin bir anı şüpheli olarak işaretlemesidir; insan incelemesiyle ayıklanır.
Tanımı oku →AB Yapay Zekâ Yasası (EU AI Act)
AB Yapay Zekâ Yasası, sınavda kopya tespiti için kullanılan yapay zekâyı yüksek riskli sayar; insan gözetimi ve şeffaflık şartı getirir.
Tanımı oku →GDPR (Genel Veri Koruma Tüzüğü)
GDPR, Avrupa Birliği'nin kişisel verileri koruma tüzüğüdür; AB'deki kişilerin verisini işleyen Türk kurumlarını da kapsayabilir.
Tanımı oku →