एआय आणि फौजदारी कायदा: अल्गोरिथम अंशतः जबाबदार असू शकतो का?

डच आणि युरोपीय कायद्यानुसार, अल्गोरिदमला गुन्हेगारीदृष्ट्या जबाबदार धरता येत नाही. गुन्हेगारी दायित्वासाठी, गुन्हेगाराला कायद्याने व्यक्ती म्हणून मान्यता दिलेली असणे आवश्यक आहे, आणि कलम ५१ एसआर हा दर्जा केवळ नैसर्गिक व्यक्ती आणि कायदेशीर व्यक्तींनाच प्रदान करते. एआय प्रणाली ही एक वस्तू आहे, संशयित नाही. त्यामुळे, व्यवहारात महत्त्वाचा प्रश्न हा नाही की अल्गोरिदम अंशतः जबाबदार आहे की नाही, तर त्याने केलेल्या कृत्यासाठी कोणती व्यक्ती किंवा कोणती कंपनी पूर्णपणे जबाबदार आहे.

त्या प्रश्नाचे एक सुविकसित उत्तर डच फौजदारी कायद्यात आधीच दिलेले आहे. कार्यात्मक अपकृत्य (functioneel daderschap) आणि कॉर्पोरेट फौजदारी दायित्व हे सिद्धांत नेमक्या याच परिस्थितीसाठी तयार केले गेले होते: म्हणजेच, आरोपीच्या स्वतःच्या हातांनी नव्हे, तर एखाद्या साधनाद्वारे, संस्थेद्वारे किंवा प्रक्रियेद्वारे हानी पोहोचवणे. हे सिद्धांत एआयला (AI) कसे लागू होतात, ईयू एआय कायदा (EU AI Act) काळजीचा दर्जा कसा बदलत आहे, अल्गोरिदमच्या आउटपुटला पुरावा म्हणून कसे हाताळले जाते आणि बचाव व अनुपालन कार्यक्रम कसा असावा, हे या लेखात मांडले आहे. डेव्हलपर्स, प्रोव्हायडर्स आणि युझर्स यांच्या पुरवठा साखळीमध्ये जबाबदारीचे वाटप करण्याच्या व्यापक प्रश्नासाठी, ' जेव्हा एखादे यंत्र गुन्हा करते तेव्हा कोण जबाबदार असते' यावरील आमचा सोबतचा लेख पहा.

अल्गोरिदम संशयित का असू शकत नाही

डच कायद्यानुसार फौजदारी गुन्ह्यासाठी अशी मानवी कृती किंवा अकृती आवश्यक असते, जी गुन्ह्याच्या वैधानिक व्याख्येत बसते, जी बेकायदेशीर आहे आणि जिचा दोष गुन्हेगारावर टाकता येतो. या प्रत्येक घटकामध्ये इच्छाशक्ती असलेल्या एका कर्त्याची कल्पना केलेली असते. अल्गोरिदम डेटावर कोड कार्यान्वित करून आउटपुट तयार करतो; त्याला काही निर्माण करण्याची इच्छाशक्ती नसते, दोष देण्यासाठी काहीच नसते आणि फौजदारी शिक्षेच्या कक्षेत येण्यासारखे काहीच नसते. कलम ५१ (वरिष्ठ) ने व्यक्तीसोबत कंपनीलाही स्थान दिले, कारण कंपनी लोकांच्या माध्यमातून कार्य करते; सॉफ्टवेअरसाठी अशी कोणतीही तुलनात्मक तरतूद नाही आणि अशी तरतूद तयार करण्यासाठी विधिमंडळाला कायदेशीर व्यक्तीची एक नवीन श्रेणी निर्माण करावी लागेल.

तसेच, फौजदारी कायद्याने मान्यता दिलेला कोणताही उद्देश त्यामुळे साध्य होणार नाही. शिक्षेचा उद्देश शिक्षा देणे, प्रतिबंध करणे आणि शक्य असेल तिथे सुधारणा करणे हा असतो. यापैकी कोणतेही कार्य मॉडेलवर केले जाऊ शकत नाही. न्यूरल नेटवर्कचे वेट्स (weights) काढून टाकल्याने त्याच्या मालकाला शिक्षा होते, नेटवर्कला नाही. जेव्हा एखादी एआय प्रणाली हानी पोहोचवते, तेव्हा फौजदारी कायद्याला जे काही साध्य करायचे असते, ते त्यामागील व्यक्ती आणि संस्थांच्या माध्यमातूनच साध्य करावे लागते, आणि म्हणूनच डच पद्धतीत याला कायद्यातील त्रुटी मानले जात नाही.

खालील तक्त्यामध्ये फौजदारी गुन्ह्याचे घटक आणि एआय प्रणाली प्रत्यक्षात काय आहे, यामधील तफावत दर्शविली आहे.

त्याऐवजी जबाबदार कोण: कार्यात्मक अपराध आणि कलम ५१ (वरिष्ठ).

डच फौजदारी कायद्यात, एखाद्या व्यक्तीने प्रत्यक्ष न केलेल्या कृत्यासाठी त्याला जबाबदार धरण्याकरिता दोन यंत्रणा आहेत. या दोन्ही यंत्रणा मशीन लर्निंगच्या अस्तित्वाच्या खूप आधी विकसित झाल्या होत्या आणि त्या कोणत्याही बदलाशिवाय एआयच्या प्रकरणांमध्येही लागू होतात.

कार्यात्मक गुन्हेगारी

'फंक्शनल डॅडरशाप' (Functioneel daderschap) एखाद्या व्यक्तीला अशा गुन्ह्याचा गुन्हेगार मानण्याची परवानगी देते, जो प्रत्यक्षपणे दुसऱ्या कोणी किंवा कशानेतरी केलेला असतो. 'आयझरड्राड' (IJzerdraad) निकालात 'होगे राड' (Hoge Raad) ने मांडलेले निकष हीच कसोटी मानली जाते: आरोपीकडे ती कृती घडली की नाही हे ठरवण्याची शक्ती (beschikken) असली पाहिजे, आणि त्याने ती स्वीकारली असली पाहिजे, किंवा त्या प्रकारची कृती त्याने सवयीने स्वीकारलेली (aanvaarden) असली पाहिजे.

एआय प्रणालीच्या बाबतीत, पहिला निकष सहसा सरळ असतो आणि दुसरा निकष प्रकरणाचा निकाल लावतो. प्रणाली कॉन्फिगर करण्याची, तिच्या कार्यान्वयनाच्या मर्यादा निश्चित करण्याची, तिला अद्ययावत किंवा पुन्हा प्रशिक्षित करण्याची आणि सर्वात महत्त्वाचे म्हणजे तिला बंद करण्याची क्षमता विल्हेवाटीचा अधिकार दर्शवते. फार कमी ऑपरेटर खात्रीपूर्वक असे म्हणू शकतात की त्यांच्याकडे तो अधिकार नव्हता. स्वीकृती हा अधिक कठीण प्रश्न आहे, आणि पुरावा याच गोष्टीवर अवलंबून असतो: ऑपरेटरला प्रणालीच्या बिघाडाच्या पद्धतींबद्दल काय माहिती होती, चाचणीद्वारे किंवा पूर्वीच्या घटनांमधून काय कळवण्यात आले होते, जोखीम मूल्यांकनात काय म्हटले होते, आणि त्यावर काय उपाययोजना केली गेली. स्वीकृतीसाठी परिणामाबद्दल इच्छेची आवश्यकता नसते. ऑपरेटरने जाणीवपूर्वक एक मोठी जोखीम स्वीकारली हे पुरेसे आहे, जे सशर्त हेतूसाठी (voorwaardelijk opzet) सामान्य डच मानक आहे.

कॉर्पोरेट दायित्व आणि प्रत्यक्ष नेतृत्व

जेव्हा ऑपरेटर एक कंपनी असते, तेव्हा कलम ५१ एसआर लागू होते. गुन्हा त्या कायदेशीर व्यक्तीवर लादला जाऊ शकतो, जिच्या कार्यक्षेत्रात ती कृती घडली आहे. होगे राडने (न्यायालयाने) ड्रिजफमेस्ट निकालात नमूद केलेल्या घटकांद्वारे हे स्पष्ट केले आहे: ती कृती कंपनीसाठी काम करणाऱ्या व्यक्तीने केली होती, ती तिच्या सामान्य व्यवसायाच्या कक्षेत येते, ती कंपनीसाठी उपयुक्त होती, आणि ती कृती घडली की नाही हे कंपनी ठरवू शकली आणि तिने अशी कृती स्वीकारली होती किंवा सवयीने स्वीकारली होती. कंपनीने आपले काम करण्यासाठी तैनात केलेली एआय प्रणाली व्याख्येनुसारच त्या यादीतील बहुतेक अटी पूर्ण करते.

कलम ५१ Sr, गुन्हा करण्याचे आदेश देणाऱ्यांवर आणि त्यास प्रत्यक्ष नेतृत्व देणाऱ्यांवरही खटला चालवण्याची परवानगी देते (feitelijk leidinggeven). ही अशी तरतूद आहे जी संचालक आणि वरिष्ठ व्यवस्थापकांपर्यंत वैयक्तिकरित्या पोहोचते. यासाठी केवळ संघटनात्मक रचनेतील स्थानापेक्षा अधिक काही आवश्यक आहे: त्या व्यक्तीला प्रतिबंधित वर्तनाची जाणीव असली पाहिजे, किमान ते घडत असल्याची मोठी शक्यता मान्य करण्याच्या अर्थाने, आणि जी उपाययोजना करण्यास ती सक्षम व वाजवीपणे बांधील होती, ती करण्यात ती अयशस्वी ठरली असली पाहिजे. एआयच्या (AI) बाबतीत, याचा थेट संबंध मॉडेल प्रमाणीकरण अहवाल कोणाला मिळाला, अंमलबजावणीला कोणी मंजुरी दिली आणि ज्ञात पक्षपात किंवा त्रुटी दर स्वीकारार्ह आहे हे कोणी ठरवले, याबद्दलच्या पुराव्याशी येतो.

निष्काळजीपणाचे गुन्हे बहुतांश काम करतात.

व्यवहारात, स्वयंचलित प्रणालींशी संबंधित खटले हे हेतूपेक्षा निष्काळजीपणावर आधारित असण्याची शक्यता अधिक असते. जेव्हा एआय-चालित वाहन, यंत्र किंवा वैद्यकीय उपकरणामुळे मृत्यू होतो, तेव्हा कलम ३०७ Sr अंतर्गत निष्काळजीपणामुळे मृत्यू घडवणे हा संबंधित गुन्हा ठरतो; आणि जेव्हा त्यामुळे गंभीर दुखापत होते, तेव्हा कलम ३०८ Sr अंतर्गत गुन्हा ठरतो. डच फौजदारी कायद्यामध्ये 'कल्पा' (Culpa) म्हणजे लक्षणीय निष्काळजीपणा, ज्याचे मूल्यमापन त्या पदावरील एका वाजवी चालकाने काय करायला हवे होते याच्या आधारावर केले जाते. एआय संबंधित खटला नेमक्या याच आधारावर लढला जातो, कारण स्वयंचलित प्रणाली तैनात करण्यासाठी आवश्यक काळजीचे मानक अधिकाधिक लिखित स्वरूपात मांडले जात आहेत: एआय कायद्यामध्ये, क्षेत्रीय नियमांमध्ये, तांत्रिक मानकांमध्ये आणि चालकाच्या स्वतःच्या कार्यपद्धतींमध्ये. चालकाने स्वतः स्वीकारलेल्या मानकापासून केलेले लेखी विचलन हा निष्काळजीपणाचा सर्वात मजबूत पुरावा मानला जातो.

भेदभाव हा दुसरा वारंवार आढळणारा प्रकार आहे. व्यवसाय किंवा पेशाच्या कामकाजात भेदभाव करणे हा ‘वेटबुक व्हॅन स्ट्राफ्रेक्ट’ (Wetboek van Strafrecht) कायद्यानुसार एक फौजदारी गुन्हा आहे, आणि त्यात हेतुपुरस्सर व निष्काळजीपणाने केलेले असे दोन्ही प्रकार अस्तित्वात आहेत. त्यामुळे, संरक्षित गटाला पद्धतशीरपणे गैरसोयीचे ठरवणारे प्रारूप हे केवळ डेटा संरक्षण आणि समान वागणूक कायद्यांतर्गत एक प्रशासकीय समस्या नाही; गंभीर प्रकरणात ती एक फौजदारी समस्या ठरते. नेदरलँड्समधील फौजदारी प्रक्रियेवरील आमचे मार्गदर्शक, असे प्रकरण तपासापासून ते निकालापर्यंत कसे चालते हे स्पष्ट करते.

एआय कायदा काळजीचा दर्जा ठरवतो, शिक्षा नाही.

युरोपियन युनियनचा कृत्रिम बुद्धिमत्ता कायदा हा एक प्रशासकीय नियम आहे. तो फौजदारी गुन्हे निर्माण करत नाही आणि कोणालाही संशयित ठरवत नाही. फौजदारी दायित्वाच्या दृष्टीने त्याचे महत्त्व अप्रत्यक्ष आणि लक्षणीय आहे: एआय प्रणालीचा काळजीपूर्वक पुरवठा करणाऱ्या किंवा ती वापरणाऱ्या व्यक्तीकडून काय अपेक्षित आहे, हे तो बंधनकारक अटींमध्ये नमूद करतो. एकदा काळजीचा एखादा मापदंड संहिताबद्ध झाला की, त्याचे उल्लंघन करणे हा निष्काळजीपणाचा पुरावा मानला जातो आणि त्याचे पालन करणे हा काळजी घेतल्याचा पुरावा ठरतो.

हा कायदा प्रणालींचे धोक्यानुसार वर्गीकरण करतो. काही मोजक्या पद्धतींवर सरळ बंदी घालण्यात आली आहे, ज्यात सार्वजनिक प्राधिकरणांद्वारे केले जाणारे सोशल स्कोअरिंग, ओळख डेटाबेस तयार करण्यासाठी चेहऱ्यांच्या प्रतिमांचे लक्ष्यहीन स्क्रॅपिंग, कामाच्या ठिकाणी आणि शिक्षण क्षेत्रात भावना ओळखणे, आणि काही मर्यादित अपवादांच्या अधीन राहून, कायद्याची अंमलबजावणी करणाऱ्यांसाठी सार्वजनिक ठिकाणी रिअल-टाइम रिमोट बायोमेट्रिक ओळख यांचा समावेश आहे. एका मोठ्या गटाचे वर्गीकरण उच्च धोका म्हणून केले आहे, ज्यात नियंत्रित उत्पादनांचे सुरक्षा घटक आणि कायद्याच्या परिशिष्टात सूचीबद्ध केलेले उपयोग समाविष्ट आहेत, त्यामध्ये भरती, क्रेडिट स्कोअरिंग, आणि कायद्याची अंमलबजावणी, स्थलांतर आणि न्याय प्रशासनातील अनुप्रयोग यांचा समावेश आहे. लोकांशी संवाद साधणाऱ्या किंवा कृत्रिम सामग्री तयार करणाऱ्या प्रणालींवर पारदर्शकतेची कर्तव्ये लागू होतात. उर्वरित प्रणाली मूलतः अनियंत्रित आहेत.

प्रोव्हायडर किंवा डिप्लॉयर: भूमिकांनुसार कर्तव्ये ठरतात.

हा कायदा भूमिकेनुसार जबाबदाऱ्यांचे वाटप करतो, आणि भूमिका चुकीची ठरवणे ही अनुपालनातील सर्वात सामान्य चुकांपैकी एक आहे. एक प्रदाता (प्रोवाइडर) एक प्रणाली विकसित करतो किंवा ती विकसित करून घेतो आणि स्वतःच्या नावाने बाजारात आणतो; एक उपयोजक (डिप्लॉयर) आपल्या कार्यादरम्यान स्वतःच्या अधिकाराखाली प्रणालीचा वापर करतो. प्रदात्यांवर डिझाइनच्या मोठ्या जबाबदाऱ्या असतात, तर उपयोजकांवर योग्य वापर, मानवी देखरेख आणि निरीक्षणाच्या जबाबदाऱ्या असतात. यात एक धोका असा आहे की, जर एखाद्या उपयोजकाने प्रणालीवर स्वतःचे नाव लावले, त्यात लक्षणीय बदल केले, किंवा तिचा मूळ उद्देश अशा प्रकारे बदलला की ज्यामुळे ती उच्च-जोखमीच्या श्रेणीत येते, तर तो प्रदाता बनतो आणि त्याच्याशी संबंधित सर्व कर्तव्ये त्याच्यावर येतात. खरेदी केलेल्या मॉडेलमध्ये स्वतःच्या डेटाच्या आधारे सूक्ष्म बदल करणे, आणि नंतर विक्रेत्याने कधीही विचार न केलेल्या उद्देशासाठी त्याचा वापर करणे, हे एखाद्या संस्थेला नकळतपणे त्या सीमारेषेच्या पलीकडे नेऊ शकते. फौजदारी तपासात, विल्हेवाटीचा अधिकार कोणाकडे होता या प्रश्नाच्या रूपात तोच फरक पुन्हा समोर येतो, आणि म्हणूनच या भूमिका लेखी स्वरूपात नोंदवल्या पाहिजेत आणि करारात प्रतिबिंबित झाल्या पाहिजेत.

आता काय लागू होते

वेळापत्रक बदलले आहे, आणि ते नेमके कोणत्या टप्प्यावर आहे हे स्पष्ट करणे महत्त्वाचे आहे. अस्वीकार्य-जोखमीच्या पद्धतींवरील बंदी आणि एआय साक्षरता सुनिश्चित करण्याचे बंधन आधीपासूनच लागू आहे. सर्वसाधारण-उद्देशीय एआय मॉडेल्ससाठीचे नियम आधीपासूनच लागू आहेत. कलम ५० मधील पारदर्शकतेची बंधने, ज्यात मजकूर कृत्रिमरित्या तयार केलेला किंवा हाताळलेला आहे हे स्पष्ट करण्याच्या कर्तव्याचा समावेश आहे, आधीपासूनच लागू आहेत. डिजिटल सर्वसमावेशक पॅकेजद्वारे जे पुढे ढकलण्यात आले आहे, ती उच्च-जोखीम व्यवस्था आहे: परिशिष्ट III मध्ये सूचीबद्ध केलेल्या प्रणालींसाठीची बंधने आता २ डिसेंबर २०२७ पासून, आणि परिशिष्ट I मध्ये समाविष्ट असलेल्या प्रणालींसाठीची बंधने २ ऑगस्ट २०२८ पासून सुरू होतील. याव्यतिरिक्त, प्रस्तावित एआय दायित्व निर्देश मागे घेण्यात आला आहे, त्यामुळे एआयमुळे होणाऱ्या हानीसाठीचे दिवाणी दायित्व हे राष्ट्रीय कायद्याचा विषय राहील, ज्याचा नेदरलँड्समध्ये अर्थ अपकृत्य आणि उत्पादन दायित्वाचे सामान्य नियम असा होतो.

या कायद्यांतर्गत दंड प्रशासकीय स्वरूपाचा असून, प्रतिबंधित कृती केल्याबद्दल तो पस्तीस दशलक्ष युरो किंवा एकूण जागतिक वार्षिक उलाढालीच्या सात टक्के, यापैकी जी रक्कम जास्त असेल, इतका निश्चित करण्यात आला आहे, तर इतर उल्लंघनांसाठी कमी मर्यादा आहेत. नेदरलँड्समधील पर्यवेक्षण विद्यमान नियामकांच्या माध्यमातून आयोजित केले जात आहे, ज्यामध्ये 'ऑटोरिटाइट पर्सून्सगेगेवेन्स' आणि 'राइक्सइन्स्पेक्टी डिजिटेल इन्फ्रास्ट्रक्चर' समन्वयकाची भूमिका बजावत आहेत. प्रतिबंधित एआय पद्धती आणि एआय कायद्यांतर्गत उच्च-जोखमीच्या एआय प्रणालींवरील आमचे लेख जबाबदाऱ्या तपशीलवार मांडतात, आणि ईयू एआय कायद्याचा आमचा आढावा संपूर्ण चौकटीचा आढावा घेतो.

सरकारी वकील त्याचा वापर कसा करेल

अशा एका उपयोजकाचा विचार करा, जो प्रशिक्षण डेटामधील पक्षपाताची तपासणी न करता, कायद्यानुसार आवश्यक असलेल्या मानवी देखरेखीच्या व्यवस्थेशिवाय आणि आवश्यक कागदपत्रांशिवाय एखादे स्क्रीनिंग टूल वापरात आणतो. जर त्या टूलमुळे नंतर एखादा फौजदारी गुन्हा घडला, तर अभियोक्त्याला कोणती काळजी घेणे आवश्यक होते यावर मूलभूत तत्त्वांनुसार युक्तिवाद करण्याची गरज भासत नाही. जबाबदाऱ्या कागदावर लिहिलेल्या असतात, उल्लंघनाची नोंद असते आणि तरीही ते टूल वापरण्याच्या निर्णयामुळे कार्यात्मक गुन्हेगारीची स्वीकृती आपोआपच येते. याउलटही तितकेच खरे आहे, आणि हाच मुद्दा संचालक मंडळांकडून बहुतेकदा दुर्लक्षित केला जातो: जी कंपनी आपले जोखीम मूल्यांकन, प्रमाणीकरणाचे निकाल, देखरेख कार्यप्रणाली आणि घटनांची नोंद सादर करू शकते, तिने काहीही चुकीचे घडण्यापूर्वीच आपल्या बचावाचा गाभा तयार केलेला असतो.

पुरावा म्हणून अल्गोरिथमिक आउटपुट

एआय फौजदारी न्यायालयात प्रवेश करण्याचा दुसरा मार्ग म्हणजे हानीचे कारण म्हणून नव्हे, तर पुराव्याचा स्रोत म्हणून. चेहऱ्यांची ओळख पटवणे, स्वयंचलित नंबर प्लेट ओळख, संवाद डेटाचे नेटवर्क विश्लेषण, फसवणुकीच्या जोखमीचे मॉडेल, आवाजाची तुलना आणि जप्त केलेल्या डेटाची वाढत्या प्रमाणात स्वयंचलित वर्गवारी, या सर्वांमधून अशी सामग्री तयार होते ज्यावर अभियोजन पक्षाला अवलंबून राहायचे असते. डच फौजदारी प्रक्रिया पुराव्यांच्या श्रेणींच्या एका बंद प्रणालीवर कार्य करते, आणि अल्गोरिदमद्वारे मिळणारे निष्कर्ष स्वतःची एक श्रेणी तयार करत नाहीत. ते एका अधिकृत अहवालाचा भाग म्हणून किंवा तज्ञाच्या मताद्वारे न्यायालयापर्यंत पोहोचतात आणि इतर कोणत्याही पुराव्याप्रमाणेच त्यांचीही कसून तपासणी केली जाते.

बचाव पक्षाचे काम याच छाननीवर केंद्रित असते. सादर केलेल्या माहितीला किती महत्त्व द्यायचे, हे तीन प्रश्न ठरवतात. ती पद्धत प्रमाणित आहे का, आणि कोणी केली आहे? कोणत्या परिस्थितीत ती अयशस्वी ठरते, आणि त्या परिस्थिती अस्तित्वात होत्या का? आणि बचाव पक्ष त्याची चाचणी करू शकतो का, म्हणजेच एक अर्थपूर्ण आव्हान उभे करण्यासाठी त्यांच्याकडे प्रणाली, तिचा प्रशिक्षण डेटा, तिच्या त्रुटींचे प्रमाण आणि तिची रचना याबद्दल पुरेशी माहिती उपलब्ध असणे आवश्यक आहे का. त्रुटींचे प्रमाण नसलेला आणि पडताळणीची शक्यता नसलेला, वस्तुस्थिती म्हणून सादर केलेला सामना हा असा पुरावा नाही ज्यावर न्यायालयाने दोषसिद्धी करावी, आणि असे म्हणणे हा एक वैध आणि अनेकदा प्रभावी बचाव असतो.

तज्ज्ञांच्या पुराव्याची स्वतःची एक चौकट असते. न्यायालय एखाद्या तज्ज्ञाची नियुक्ती करू शकते, बचाव पक्ष तशी मागणी करू शकतो, आणि न्यायालयातील तज्ज्ञांची नोंदणी ही त्याअंतर्गत येणाऱ्या क्षेत्रांसाठी गुणवत्तेचा एक मापदंड निश्चित करण्यासाठी अस्तित्वात असते. जेव्हा एखादी एआय (AI) पद्धत कोणत्याही मान्यताप्राप्त क्षेत्राच्या बाहेर येते, तेव्हा तो स्वतःच निकालाच्या विश्वासार्हतेबद्दलचा एक वाद ठरतो. हे देखील लक्षात घेण्यासारखे आहे की, एर्स्टे कामेरने (Eerste Kamer) २४ फेब्रुवारी २०२६ रोजी स्वीकारलेले आणि मार्च २०२६ मध्ये स्टाट्सब्लाडमध्ये (Staatsblad) प्रकाशित झालेले नवीन ‘वेटबुक व्हॅन स्ट्राफव्होर्डरिंग’ (Wetboek van Strafvordering) हे शाही हुकूमनाम्याद्वारे टप्प्याटप्प्याने अंमलात येईल; जोपर्यंत ते अंमलात येत नाही, तोपर्यंत सध्याच्या तरतुदी आणि त्यांचे अनुच्छेद क्रमांक लागू राहतील.

डेटा संरक्षणाचा दृष्टिकोन

जेव्हा एखाद्या व्यक्तीवर परिणाम करणारा निर्णय केवळ स्वयंचलित साधनांद्वारे घेतला जातो, तेव्हा GDPR त्या व्यक्तीला तो निर्णय लागू न होण्याचा अधिकार देतो, तसेच त्यामागील तर्काबद्दल अर्थपूर्ण माहिती मिळवण्याचाही अधिकार देतो. फौजदारी अंमलबजावणीमध्ये, पोलीस डेटा निर्देशाची अंमलबजावणी करणाऱ्या कायद्याचे समांतर नियम लागू होतात. हे दोन प्रकारे महत्त्वाचे आहे. संशयितासाठी, ही अशा प्रणालीबद्दल माहिती मिळवण्याचा एक मार्ग आहे, ज्याबद्दल अधिकारी स्पष्टीकरण देणे टाळू शकतात. एखाद्या कंपनीसाठी, कायदेशीर आधाराशिवाय आणि सुरक्षेच्या उपायांशिवाय स्वयंचलित निर्णय-प्रक्रिया कार्यान्वित करणे हे एक नियामक उल्लंघन आहे, जे कोणत्याही फौजदारी आरोपासोबत विचारात घेतले जाईल.

एआयचा समावेश असलेल्या खटल्याचा बचाव करणे

प्रणाली एक ब्लॅक बॉक्स होती आणि ती काय करेल हे कोणालाही कळू शकले नसते, हा सहजस्फूर्त बचाव दिसतो तितका कमकुवत नाही. तो चुकीच्या प्रश्नाचे उत्तर देतो. डच फौजदारी कायदा हा प्रश्न विचारत नाही की आरोपीने नेमका परिणाम आधीच पाहिला होता का; तो हा प्रश्न विचारतो की, ती कृती घडेल की नाही हे ठरवण्याची शक्ती आरोपीकडे होती का आणि तसे होण्याचा धोका त्याने स्वीकारला होता का. अपारदर्शकता आरोपीच्या विरोधात जाऊ शकते: ज्या प्रणालीच्या वर्तनाचे स्पष्टीकरण देता येत नाही, ती अशा परिस्थितीत वापरणे जिथे ती गंभीर हानी पोहोचवू शकते, हा स्वतःच एक असा निर्णय आहे ज्याला न्यायालय धोका स्वीकारणे असे मानू शकते.

जे बचाव प्रभावी ठरतात ते अधिक मर्यादित आणि पुराव्यावर आधारित असतात. पहिला युक्तिवाद म्हणजे नियंत्रणाचा खरा अभाव: प्रणाली एक तयार उत्पादन म्हणून खरेदी केली गेली होती, पुरवठादाराद्वारे कॉन्फिगर आणि देखरेख केली गेली होती, आणि प्रतिवादीकडे हस्तक्षेप करण्यासाठी आवश्यक माहिती किंवा तांत्रिक क्षमता नव्हती. हा युक्तिवाद साखळीत वरच्या स्तरावर पुरवठादाराकडे लक्ष वळवतो, आणि त्याचे यश-अपयश करारावर आणि तैनात करणाऱ्याला प्रत्यक्षात काय कळवण्यात आले होते यावर अवलंबून असते. दुसरा युक्तिवाद म्हणजे ऑपरेटरने तेच केले जे एक काळजीपूर्वक ऑपरेटर करतो: दस्तऐवजीकृत जोखीम मूल्यांकन, तैनातीपूर्वी प्रमाणीकरण, ज्या व्यक्तीकडे हस्तक्षेप करण्याचा अधिकार आणि क्षमता होती तिच्याद्वारे निश्चित मानवी देखरेख, तैनातीनंतर निरीक्षण, आणि घटनांवर त्वरित कारवाई. तिसरा युक्तिवाद म्हणजे कार्यकारणभाव, ज्याचा वापर अनेकदा कमी केला जातो. प्रशिक्षण डेटापासून मॉडेलमार्गे मानवी निर्णयापर्यंत आणि नंतर परिणामापर्यंत चालणाऱ्या साखळीत, फिर्यादी पक्षाला हे दाखवावे लागते की या प्रतिवादीच्या वर्तनामुळे तो परिणाम घडला, आणि अशा गुंतागुंतीच्या साखळ्या तुटतात.

पुढील दोन व्यावहारिक मुद्दे आहेत. सुरुवातीलाच सर्वकाही जतन करा: लॉग्स, मॉडेल आवृत्त्या, कॉन्फिगरेशन, घटना अहवाल आणि डिप्लॉयमेंटच्या निर्णयांसंबंधीचा पत्रव्यवहार हे दोन्ही बाजूंचे पुरावे असतात आणि ते नियमितपणे बदलले जातात. आणि हे लक्षात ठेवा की तांत्रिकदृष्ट्या गुंतागुंतीच्या प्रकरणांमध्ये फौजदारी प्रक्रियेतील सामान्य सुरक्षा उपाय पूर्णपणे लागू होतात, ज्यात संशयिताच्या काहीही न बोलण्याच्या अधिकाराचा समावेश आहे; फौजदारी प्रकरणांमध्ये शांत राहण्याच्या अधिकारावरील आमचा लेख डच तपासात हे कसे कार्य करते हे स्पष्ट करतो. जिथे स्वयंचलित साधनांद्वारे केलेल्या फसवणुकीचा आरोप असतो, तिथे नेदरलँड्समधील फसवणूक आणि आर्थिक गुन्हेगारीवरील आमचे मार्गदर्शक त्यात समाविष्ट असलेल्या गुन्ह्यांची माहिती देते.

बालसंगोपन लाभांचे प्रकरण नेमके काय दाखवते

नेदरलँड्समधील अल्गोरिथमिक उत्तरदायित्वाच्या प्रत्येक चर्चेत 'टोस्लागेनअफेअर' (toeslagenaffaire), म्हणजेच डच बालसंगोपन लाभांचे प्रकरण, पुन्हा पुन्हा समोर आणले जाते आणि सहसा ते चुकीच्या कारणांसाठीच उद्धृत केले जाते. यातून मिळणारा धडा हा नाही की एखाद्या अल्गोरिथमिकने काहीतरी गुन्हेगारी कृत्य केले. तर धडा हा आहे की, स्वयंचलित जोखीम निवडीच्या प्रणालीमुळे आणि तिच्या निष्पत्तीवर प्रश्न विचारण्याच्या संस्थात्मक अनिच्छेमुळे, हजारो कुटुंबांना अनेक वर्षे गंभीर हानी पोहोचली, पण कोणालाही गुन्हेगारीदृष्ट्या जबाबदार धरले गेले नाही.

कर प्रशासनाने चौकशीसाठी लाभाचे दावे निवडण्याकरिता जोखीम वर्गीकरणाचा वापर केला. राष्ट्रीयत्वासारखे, जे निर्देशक कधीही वापरले जाऊ नयेत, ते या निवडीमध्ये समाविष्ट झाले आणि एका किरकोळ प्रशासकीय अनियमिततेमुळे हेतुपुरस्सर फसवणुकीचा निष्कर्ष निघू शकत होता, ज्यामुळे संपूर्ण लाभ परत करण्याची जबाबदारी येऊ शकत होती. आपली निवड का झाली हे कुटुंबांना समजत नव्हते, अधिकाऱ्यांनी या वर्गीकरणाला एक संकेत मानण्याऐवजी एक निष्कर्ष मानले आणि ज्या आरोपाचे स्पष्टीकरण कोणीही देत ​​नव्हते, तो आरोप खोटा ठरवण्याची जबाबदारी आरोपीवरच पडली. डच डेटा संरक्षण प्राधिकरणाने राष्ट्रीयत्वाच्या डेटाची प्रक्रिया बेकायदेशीर ठरवली आणि दंड आकारला, आणि जानेवारी २०२१ मध्ये सरकारने राजीनामा दिला.

जे घडले नाही ते बोधप्रद आहे. कोणत्याही व्यक्तीवर फौजदारी खटला चालवला गेला नाही. जबाबदारी एका संस्थेमध्ये, एका धोरणामध्ये, एका सॉफ्टवेअरमध्ये आणि अशा कायदेशीर चौकटीमध्ये विभागली गेली, जी लाभांच्या वसुलीला एक प्रशासकीय बाब मानत होती. ही विभागणी नेमका तोच धोका आहे, ज्याला रोखण्यासाठी कार्यात्मक अपकृत्य आणि कलम ५१ (Sr) यांची रचना केली आहे, आणि यामुळेच एआय कायदा ओळखण्यायोग्य मानवी देखरेखीवर आणि दस्तऐवजीकरणावर का आग्रह धरतो हे स्पष्ट होते. उत्तरदायित्वासाठी अशी एक व्यक्ती आवश्यक असते, जी ते थांबवू शकली असती, आणि तिला काय माहीत होते याची नोंद असणे आवश्यक आहे.

तीन त्रुटी नमूद करणे महत्त्वाचे आहे, कारण त्या कोणत्याही संस्थेसाठी थेट कायदेशीर धोक्यात रूपांतरित होतात. घेतलेले निर्णय स्पष्ट करता येत नव्हते, त्यामुळे त्यांना आव्हान देता येत नव्हते. कागदोपत्री मानवी देखरेख अस्तित्वात होती, पण प्रत्यक्षात नव्हती, कारण संबंधित लोकांकडे प्रणालीला डावलण्यासाठी ना अधिकार होता, ना पुरेशी माहिती. आणि एखाद्या 'फ्लॅग'चा परिणाम म्हणजे, कायद्यात नसले तरी प्रत्यक्षात पुराव्याचा भार उलटला गेला. या तीन वैशिष्ट्यांची पुनरावृत्ती करणारी कोणतीही एआय (AI) प्रणाली, तिच्यामागील तंत्रज्ञान कोणतेही असो, एक मोठी कायदेशीर समस्या निर्माण करते. सरकारचा प्रतिसाद, ज्यामध्ये रचनेनुसार भेदभाव टाळण्याबाबतचे मार्गदर्शन आणि सार्वजनिक संस्थांसाठी अल्गोरिदम नोंदणीचा ​​समावेश आहे, तो थेट याच तीन मुद्द्यांवर केंद्रित आहे.

एक अनुपालन कार्यक्रम जो संरक्षण म्हणूनही काम करतो.

एआय कायद्याचे पालन करण्यासाठी कंपनी जे काही करते, त्यातून काही चूक झाल्यास आवश्यक असलेला पुरावादेखील तयार होतो. हा दुहेरी उद्देशच एखादे काम कमीतकमी करण्याऐवजी ते योग्यरित्या करण्यामागील मुख्य कारण आहे, आणि त्यामुळे पुढील पायऱ्या उचलण्यासाठी केलेले प्रयत्न सार्थ ठरतात.

सूची तयार करून सुरुवात करा. तुम्ही ज्याची नोंद केलेली नाही त्याचे वर्गीकरण करू शकत नाही, आणि बहुतेक संस्थांना असे आढळून येते की एआय (AI) एखाद्या प्रकल्पाऐवजी खरेदी प्रक्रियेद्वारे आले आहे: जसे की, भरती प्लॅटफॉर्ममधील एक छाननी वैशिष्ट्य, क्रेडिट अर्जामधील एक गुणांकन विभाग, किंवा सुरक्षा सॉफ्टवेअरमधील एक देखरेख कार्यप्रणाली. कायद्यानुसार प्रत्येक प्रणालीचे वर्गीकरण करा, त्यामागील कारणांची नोंद करा, आणि जेव्हा एखाद्या प्रणालीमध्ये लक्षणीय बदल होतो तेव्हा त्याचे पुनरावलोकन करा, कारण उद्देशातील बदलामुळे एखादी प्रणाली वेगळ्या श्रेणीत जाऊ शकते.

मग विभागांऐवजी विशिष्ट व्यक्तींवर जबाबदारी सोपवा. एखादे कृत्य घडले की नाही हे कोण ठरवू शकले असते, यावरच प्रत्यक्ष गुन्हेगारी आणि नेतृत्व या दोन्ही गोष्टी अवलंबून असतात. ज्या संस्थेमध्ये कोणालाही जबाबदार म्हणून ओळखता येत नाही, ती संस्था दायित्वातून सुटत नाही; ती केवळ सर्वोच्च पदावर असलेल्या व्यक्तीला उघड करते. प्रत्येक प्रणालीचा मालक कोण आहे, कोण अंमलबजावणीस अधिकृत करू शकतो, कोण देखरेख करतो आणि कोण ती बंद करू शकतो, हे निश्चित करा आणि खात्री करा की नामनिर्देशित व्यक्तीकडे ते करण्याचे अधिकार आणि तांत्रिक क्षमता आहे.

मानवी देखरेख प्रत्यक्ष करा. आवश्यकता ही आहे की, कोणीतरी प्रक्रियेत सामील असावे असे नाही, तर अशी व्यक्ती असावी जी आउटपुट समजू शकेल, ते नाकारण्याचा अधिकार तिला असेल आणि जिचे मूल्यांकन थ्रुपुटवर अशा प्रकारे केले जाणार नाही की ज्यामुळे ते नाकारणे अव्यवहार्य ठरेल. ओव्हरराइड्सची नोंद ठेवा, कारण देखरेख कार्याचा प्रत्यक्षात वापर होत असल्याचे दर्शवणारी नोंद कोणत्याही धोरण दस्तऐवजापेक्षा अधिक मौल्यवान आहे.

तांत्रिक स्थितीची नोंद करा: प्रशिक्षण डेटा कुठून आला आणि तो कसा तपासला गेला, कोणती चाचणी केली गेली आणि त्यातून काय दिसून आले, ज्ञात त्रुटी दर आणि अपयशाच्या परिस्थिती कोणत्या आहेत, आणि त्यांबद्दल काय निर्णय घेण्यात आला. जिथे डेटा संरक्षण किंवा मूलभूत हक्कांवरील परिणामाचे मूल्यांकन करणे आवश्यक असेल, तिथे ते उपयोजनापूर्वी (deployment) करा आणि अद्ययावत ठेवा. उपयोजनानंतर निरीक्षण करा, घटनांची नोंद करा आणि नोंदीमध्ये दिसेल अशा प्रकारे त्यावर कारवाई करा.

शेवटी, करार योग्यरित्या करून घ्या. जिथे एखादी प्रणाली तयार करण्याऐवजी विकत घेतली जाते, तिथे पुरवठादार आणि तैनात करणारा यांच्यातील जबाबदारीच्या वाटपावरून धोका कोण उचलणार हे ठरते. कायद्यानुसार आवश्यक असलेली तांत्रिक कागदपत्रे, वापरासाठीच्या सूचना, ज्ञात मर्यादांविषयी माहिती आणि घटना व महत्त्वपूर्ण बदलांविषयी कळवण्याचा हक्क यांची मागणी करा. आमची आयटी कायदा टीम या व्यवस्था हाताळते.

जेव्हा एआय हे व्यवसायाच्या अपयशाऐवजी गुन्हेगाराचे साधन बनते

आतापर्यंत या लेखात, एका कंपनीने कायदेशीर हेतूसाठी तैनात केलेल्या एआय प्रणालीमुळे झालेल्या हानीबद्दल चर्चा केली आहे. चित्राचा दुसरा भाग म्हणजे हेतुपुरस्सर गुन्हा करण्यासाठी एआयचा वापर, आणि इथे उत्तर अधिक सोपे आहे: गुन्हा हा गुन्हाच असतो, आणि तंत्रज्ञान ही एक कायदेशीर समस्या नसून, गुन्ह्याची तीव्रता वाढवणारा एक तपशील असतो. डच फौजदारी कायदा हा परिणाम आणि कृतीच्या आधारावर तयार केला गेला आहे, साधनांच्या आधारावर नाही, आणि म्हणूनच फार कमी नवीन तरतुदींची आवश्यकता भासली आहे.

एखाद्या दिग्दर्शकाच्या क्लोन केलेल्या आवाजाचा किंवा कृत्रिम व्हिडिओचा वापर करून पैसे देण्याचे निर्देश देणे, ही फसवणूक कलम ३२६ Sr अंतर्गत एक प्रकारची फसवणूक आहे, अगदी बनावट पत्राप्रमाणेच. खोट्या दाव्याला समर्थन देण्यासाठी मॉडेलद्वारे तयार केलेला दस्तऐवज हा कलम २२५ Sr अंतर्गत बनावटगिरी आहे. एखाद्या व्यक्तीची ओळख पटवणारी वैयक्तिक माहिती वापरून ती व्यक्ती असल्याचे भासवणे, हा कलम २३१b Sr अंतर्गत स्वतःच एक गुन्हा आहे. एखाद्या व्यक्तीच्या संमतीशिवाय तिची लैंगिकदृष्ट्या स्पष्ट छायाचित्रे वितरित करणे हा शिक्षेस पात्र गुन्हा आहे, आणि १ जुलै २०२४ पासून लागू झालेल्या ‘वेट सेक्सुएल मिसड्रिजवेन’ (Wet seksuele misdrijven) कायद्याने फौजदारी संहितेच्या त्या भागाचे आधुनिकीकरण केले आहे; कृत्रिम छायाचित्र या कायद्याच्या बाहेर राहत नाही, कारण ते रेकॉर्ड करण्याऐवजी तयार केलेले असते. स्वयंचलित खात्यांद्वारे होणारा सततचा छळ हा कलम २८५b Sr अंतर्गत ‘बेलॅगिंग’ (belaging) ठरू शकतो, ज्यावर केवळ पीडितेच्या तक्रारीवरूनच खटला चालवला जातो.

एआयमुळे व्याप्ती, विश्वासार्हता आणि पुरावा सादर करण्याची अडचण यांमध्ये बदल होतो. एक विश्वासार्ह कृत्रिम आवाज पेमेंट फसवणुकीपासून संरक्षण करणारा अडथळा दूर करतो आणि रेकॉर्डिंग अस्सल असल्याचा पुरावा आता गृहीत धरता येत नाही. याचे दोन व्यावहारिक परिणाम होतात. पीडितांसाठी आणि कंपन्यांसाठी, आवाज किंवा चेहरा ओळखण्यावर अवलंबून नसलेल्या पडताळणी प्रक्रिया आता एक सुधारणा न राहता एक मूलभूत नियंत्रण बनल्या आहेत. फौजदारी प्रक्रियेसाठी, ऑडिओ आणि व्हिडिओ सामग्रीची सत्यता हा आता गृहीत धरण्याऐवजी सिद्ध करावा लागणारा प्रश्न बनला आहे आणि बचाव पक्षाला त्याची चाचणी करण्याचा अधिकार आहे.

नियमनामुळे मदत होऊ लागली आहे. एआय कायद्याच्या कलम ५० मधील पारदर्शकतेची बंधने, जी आधीपासूनच लागू आहेत, सेवा पुरवठादारांना कृत्रिम सामग्रीवर मशीन-वाचनीय पद्धतीने खूण करण्यास आणि वापरकर्त्यांना हे उघड करण्यास सांगतात की, जर एखादी प्रतिमा, ऑडिओ किंवा व्हिडिओ वास्तविक व्यक्ती किंवा घटना दर्शवत असेल, तर ती कृत्रिमरित्या तयार केली गेली आहे किंवा त्यात फेरफार केली गेली आहे. नियमांचे पालन केल्याने एखादा दृढनिश्चयी गुन्हेगार थांबत नाही, परंतु ते इतर सर्वांची स्थिती मजबूत करते: ते उघड न केलेल्या कृत्रिम सामग्रीला स्वतःच एक नियामक उल्लंघन बनवते आणि तपासकर्त्यांना व न्यायालयांना पुढे काय शोधावे यासाठी एक संकेत देते. नेदरलँड्समध्ये डिजिटल फसवणूक सिद्ध करण्यावरील आमचा लेख या प्रकरणांच्या पुराव्यासंबंधीच्या बाजूवर भाष्य करतो.

एआय आणि फौजदारी दायित्वाबद्दल वारंवार विचारले जाणारे प्रश्न

कसे Law and More मदत करू शकता

Law and More आम्ही कंपन्या, संचालक आणि व्यक्तींना स्वयंचलित प्रणालींमुळे उद्भवणाऱ्या फौजदारी दायित्वाबाबत सल्ला देतो. आम्ही कलम ५१ एसआर आणि कार्यात्मक अपकृत्याच्या सिद्धांतानुसार जोखमीचे मूल्यांकन करतो, काळजीचा पुरावा म्हणून टिकून राहील अशा एआय प्रशासनाची उभारणी व पुनरावलोकन करतो, फौजदारी कार्यवाहीमध्ये अल्गोरिदमच्या पुराव्याला आव्हान देतो आणि सार्वजनिक अभियोजन सेवा व नियामकांकडून होणाऱ्या चौकशीत कंपन्या व त्यांच्या अधिकाऱ्यांचा बचाव करतो. जर तुमची संस्था अशा परिस्थितीत एआयचा वापर करत असेल जिथे चुकांचे गंभीर परिणाम होतात, तर एखादी घटना घडून प्रश्न उपस्थित होण्यापूर्वीच आमच्या कार्यालयाशी संपर्क साधा.