Nihai Karar Kimde Olmalı? Human-in-the-Loop Sınır Kontrolü

Sınır kontrolündeki AI tartışmasının merkezinde model doğruluğundan daha önemli bir soru vardır: Nihai karar kimde olmalıdır? Bir sistem teknik olarak yüksek doğrulukla çalışsa bile ülkeye giriş, iltica, vize ve güvenlik kararları kişiler üzerinde ciddi hukuki sonuçlar doğurur. İnsan gözetimi yalnız ekrana bir onay düğmesi koymak değildir; görevlinin kararı anlayabilmesi, sorgulayabilmesi ve değiştirebilmesi gerekir.

Dört otomasyon seviyesi

Human-onlyBasit araçlarTüm kontrol ve kararHuman-in-the-loopKanıt ve öneriNihai kararHuman-on-the-loopStandart kararlar otomatikGözetim ve istisnaFully autonomousTüm analiz ve kararSonradan denetim

Sınır yönetiminde tek bir seviye tüm görevler için uygun değildir. MRZ check digit veya SOD imzası otomatik çalışabilir. Çelişkili seyahat gerekçesi veya uluslararası koruma talebi ise insan değerlendirmesi gerektirir.

Görev bazlı otomasyon matrisi

| Görev                              | Önerilen seviye       |
|------------------------------------|-----------------------|
| MRZ check digit                    | Otomatik              |
| Passive Authentication             | Otomatik              |
| DG hash karşılaştırması             | Otomatik              |
| Yüz eşleştirme                     | Otomatik + eşik       |
| Morph/liveness şüphesi             | İnsan incelemesi      |
| Vize koşulu belirsizliği           | İnsan incelemesi      |
| Giriş reddi                        | Yetkili insan kararı  |
| İltica/korunma beyanı              | Uzman insan süreci    |
| Çocuk ve insani istisna            | İnsan değerlendirmesi |

Anlamlı insan gözetimi

Görevli yalnız AI sonucunu onaylayan pasif operatör olmamalıdır. Sistem şu şartları sağlamalıdır:

• Alt kontroller ve kanıtlar görülebilir olmalı.
• Model güveni ve bilinen sınırlar açıklanmalı.
• Görevli ek belge veya yeniden capture isteyebilmeli.
• AI önerisi değiştirilebilmeli ve override gerekçesi kaydedilmeli.
• Karar için yeterli süre ve eğitim sağlanmalı.
• Yolcu itiraz veya yeniden değerlendirme kanalına erişebilmeli.

Automation bias riski

İnsan gözetimi tek başına güvenlik garantisi değildir. Görevli sistemin çoğu zaman doğru olduğuna alışırsa öneriyi sorgulamadan onaylayabilir. Tersine çok fazla yanlış alarm, gerçek risklerin gözden kaçmasına neden olabilir.

def oversight_metrics(events):
    return {
        "override_rate": ratio(events, "HUMAN_OVERRIDE"),
        "review_to_clear": ratio(events, "REVIEW_CLEARED"),
        "review_to_deny": ratio(events, "REVIEW_DENIED"),
        "median_review_seconds": median_duration(events),
        "operator_disagreement": disagreement_by_operator(events),
        "appeal_reversal_rate": ratio(events, "APPEAL_REVERSED")
    }

Override oranının çok düşük olması sistemin kusursuz olduğunu değil, görevlilerin AI’a aşırı bağımlı olduğunu gösterebilir. Metrikler bağlam ve örnek olay incelemesiyle yorumlanmalıdır.

Karar ekranı nasıl olmalı?

{
  "recommendation": "MANUAL_REVIEW",
  "summary": "Belge geçerli; vize koşulu çözümlenemedi",
  "checks": [
    {"name": "Document signature", "result": "PASS"},
    {"name": "Face match", "result": "PASS", "scoreBand": "HIGH"},
    {"name": "Visa condition", "result": "UNRESOLVED"}
  ],
  "suggestedActions": [
    "OPEN_AUTHORIZED_VISA_SOURCE",
    "ASK_FOR_SUPPORTING_DOCUMENT"
  ],
  "prohibitedAction": "AUTOMATIC_DENIAL"
}

Ekran yalnız kırmızı/yeşil renk vermemeli; çözülemeyen noktayı ve görevlinin yapabileceği yasal işlemleri göstermelidir.

Özel ve hassas durumlar

Çocuklar, yaşlılar, engelliler, yüzünde değişiklik bulunan kişiler ve teknik nedenle biyometrik eşleşemeyen yolcular için alternatif süreç bulunmalıdır. İltica veya korunma talebini belirten bir yolcu, risk skoru üretmek yerine doğrudan yetkili uzman sürece yönlendirilmelidir.

İtiraz ve yeniden değerlendirme

Yolcu hangi otomatik sistemin sürece katkı verdiğini anlayabilmeli ve olumsuz sonuçta insan tarafından yeniden değerlendirme isteyebilmelidir. İtiraz kaydı model performans ölçümüne geri beslenebilir; fakat hukuki vaka verisi kontrolsüz biçimde eğitim verisine dönüştürülmemelidir.

Yönetim ve sorumluluk

Her agent ve model için sistem sahibi, veri sahibi, operasyon sahibi ve nihai karar yetkilisi tanımlanmalıdır. Üçüncü taraf model kullanılması kamu otoritesinin sorumluluğunu ortadan kaldırmaz. Devreye alma, sürüm yükseltme ve kapatma kararları belgelenmelidir.

Sonuç

Sınır kontrolünde en doğru hedef, insanı döngüden çıkarmak değil; standart ve tekrarlanabilir kontrolleri otomatikleştirerek insanı hukuki muhakeme ve istisnalara odaklamaktır. Anlamlı insan gözetimi; yetki, zaman, açıklama, override, fallback ve itiraz mekanizmalarının birlikte bulunmasıdır.

Referanslar

• NIST AI RMF — Human-AI Interaction
• EU AI Act
• Frontex — Fundamental Rights