जेव्हा एखादी एआय प्रणाली हानी पोहोचवते, तेव्हा जबाबदार कोण असते?

नेदरलँड्समध्ये एआय प्रणालींची जबाबदारी नेहमी एखाद्या व्यक्तीवर किंवा कंपनीवर असते, सॉफ्टवेअरवर कधीही नाही. व्यवहारात दोन भूमिका महत्त्वाच्या ठरतात: वापरकर्ता, म्हणजेच ती व्यक्ती किंवा संस्था जी प्रणाली वापरते आणि तिच्याद्वारे निर्णय घेते, आणि निर्माता, म्हणजेच ती संस्था जिने प्रणाली विकसित केली, बाजारात आणली किंवा पुरवली. या दोघांपैकी नुकसान कोणावर येते, हे चूक कोठे झाली, त्या दोघांना काय माहिती होते आणि त्यांच्यातील करार काय सांगतो यावर अवलंबून असते. हा लेख दोन्ही भूमिकांचा विचार करतो; फौजदारी कायद्याची चौकट, कार्यात्मक अपराधापासून ते फौजदारी संहितेच्या कलम ५१ अंतर्गत कॉर्पोरेट जबाबदारीपर्यंत, ' अल्गोरिदम अंशतः जबाबदार असू शकतो का' यावरील आमच्या संबंधित लेखात मांडली आहे.

व्यवस्था कधीच प्रतिवादी का नसते

डच कायदा दोन प्रकारच्या व्यक्तींना मान्यता देतो: नैसर्गिक व्यक्ती आणि कायदेशीर व्यक्ती. एआय प्रणाली यापैकी कोणतीही नाही. ती हक्क धारण करू शकत नाही, तिला बोलावता येत नाही, तिच्यावर दंड आकारता येत नाही आणि तिला नुकसान भरपाई देण्याचा आदेश देता येत नाही, कारण तिच्या मालकीचे काहीही नसते आणि तिला चालवणाऱ्या कंपनीपासून वेगळे असे तिचे कोणतेही कायदेशीर अस्तित्व नसते. 'इलेक्ट्रॉनिक व्यक्तिमत्त्व' म्हणून ओळखली जाणारी तिसरी श्रेणी तयार करण्याच्या प्रस्तावांवर युरोपीय स्तरावर चर्चा झाली आहे, परंतु त्यामागे तात्विक कारणापेक्षा अधिक व्यावहारिक कारण आहे: कोणतीही मालमत्ता नसलेले आणि आपले वर्तन बदलण्याची क्षमता नसलेले दायित्वाचे साधन, जे पक्ष प्रत्यक्षात नुकसान टाळू शकतात त्यांच्यापासून धोका दूर करेल.

त्यामुळे प्रश्न कधीच हा नसतो की यंत्र जबाबदार आहे की नाही. प्रश्न हा असतो की त्या साखळीतील कोणता मानवी किंवा कॉर्पोरेट घटक आपले कर्तव्य पार पाडण्यात अयशस्वी ठरला, आणि त्या साखळीचा एक अपेक्षित आकार असतो: ज्याने मॉडेल तयार केले तो पक्ष, ज्याने त्याचे उत्पादनात रूपांतर केले तो पक्ष, ज्याने त्याचा पुरवठा किंवा एकीकरण केले तो पक्ष, ज्या संस्थेने ते कार्यान्वित केले ती संस्था, आणि ज्या व्यक्तीने बटण दाबले ती व्यक्ती. एआय प्रणालींसाठी जबाबदारी म्हणजे त्या साखळीतील अपयश शोधून त्याला कायदेशीर आधाराशी जोडण्याची प्रक्रिया होय.

त्या कायदेशीर आधारांपैकी दोन प्रमुख आहेत. वापरकर्त्यासाठी, सर्वसाधारण अपकृत्य कायदा आणि दुसऱ्याच्या दिशेने एखादे शक्तिशाली साधन वापरताना येणारे काळजी घेण्याचे कर्तव्य. उत्पादकासाठी, उत्पादन दायित्व, ज्यासाठी दोष असण्याची अजिबात आवश्यकता नसते. फौजदारी जबाबदारीसह बाकी सर्व काही, या आधारांवरच रचलेले आहे.

वापरकर्त्याची स्थिती

वापरकर्ते त्यांच्या जोखमीचा अंदाज चुकवतात, कारण ते प्रणालीला दुसऱ्या कोणीतरी तयार केलेला एक गूढ डबा समजतात. कायद्यानुसार, जी व्यक्ती एखादे साधन वापरण्याचे ठरवते, ते कॉन्फिगर करते, त्यात डेटा भरते आणि त्याच्या आउटपुटवर कृती करते, ती काहीतरी करत असते, आणि त्या कृतीचे मूल्यमापन तिच्या गुणवत्तेनुसार केले जाते.

जेव्हा व्यवस्था केवळ गुन्ह्याचे साधन बनते

सर्वात सोपी प्रकरणे ती आहेत जिथे एआय प्रणालीचा हेतुपुरस्सर वापर केला जातो. एखाद्या कंपनीची फसवणूक करण्यासाठी विश्वासार्ह बिल तयार करणे, मग ते पत्र एखाद्या व्यक्तीने तयार केले असो वा मॉडेलने, फौजदारी संहितेच्या कलम ३२६ अंतर्गत फसवणूक ठरते, आणि दस्तऐवज बनावट करणे हे साधन कोणतेही असले तरी कलम २२५ अंतर्गत बनावटगिरीच राहते. प्रणालीमध्ये घुसखोरी करणारा कोड लिहिण्यासाठी मॉडेलचा वापर करणे हे कलम १३८ab अंतर्गत संगणकीय घुसखोरीच आहे. खऱ्या व्यक्तीच्या फेरफार केलेल्या प्रतिमा तयार करणे आणि वितरित करणे हे मानहानी ठरू शकते, आणि जर ती सामग्री लैंगिक स्वरूपाची असेल तर ते १ जुलै २०२४ पासून लागू झालेल्या लैंगिक गुन्हे कायद्यातील गुन्ह्यांतर्गत येते. एखाद्या व्यक्तीचा एआय-सहाय्यित सतत छळ करणे हे कलम २८५b अंतर्गत पाठलाग (स्टॉकिंग) ठरू शकते, ज्यावर केवळ पीडितेच्या तक्रारीवरूनच खटला चालवला जातो.

यातला कोणताही कायदा नवीन नाही. तंत्रज्ञान गुन्ह्याचे घटक नव्हे, तर फसवणुकीची व्याप्ती आणि संभाव्यता बदलते. यामुळे जो बदल होतो तो म्हणजे पुरावा: प्रॉम्प्ट्स, अकाउंट लॉग्स, मॉडेल आउटपुट्स आणि फाईल तयार करण्याची वेळ, ही अशी सामग्री आहे जी गुन्ह्याला एखाद्या व्यक्तीशी जोडते, आणि एआय-निर्मित सामग्रीचा माग काढता येत नाही असे मानणारे वापरकर्ते सहसा चुकीचे असतात.

निष्काळजी वापर: अधिक सामान्य धोका

हेतुपुरस्सर केलेल्या चुकांपेक्षा निष्काळजीपणामुळेच अधिक संस्था अडचणीत येतात. हा प्रकार ओळखीचा आहे. एक प्रणाली एका उद्देशासाठी विकत घेतली जाते आणि दुसऱ्याच कामासाठी वापरली जाते. तिच्या आउटपुटला एक संकेत मानण्याऐवजी निर्णय मानले जाते. ती प्रणाली कुठे चुकते हे कोणीही तपासत नाही, कारण ती चालवणाऱ्या लोकांना तिच्या त्रुटींचे प्रमाण किती आहे किंवा ती कुठे अयशस्वी होते हे कधीच सांगितले जात नाही. जेव्हा प्रत्यक्ष नुकसान होते, तेव्हा संस्थेच्या लक्षात येते की तो निर्णय कसा घेण्यात आला याची कोणतीही नोंद त्यांच्याकडे नसते.

दिवाणी भाषेत, हा एक सरळसरळ अपकृत्य प्रकार आहे: दिवाणी संहितेचे कलम ६:१६२ एखाद्या व्यक्तीला तिच्यामुळे झालेल्या बेकायदेशीर कृत्यासाठी जबाबदार ठरवते, ज्यामुळे नुकसान होते. समाजातील काळजी घेण्याच्या कर्तव्याचे उल्लंघन हा बेकायदेशीरपणाच्या प्रकारांपैकी एक आहे, आणि त्या कर्तव्याची व्याप्ती त्या पदावरील एका काळजीवाहू व्यक्तीने काय केले असते यावर अवलंबून असते. याव्यतिरिक्त, कलम ६:१७० नुसार नियोक्ता आपल्या कर्मचाऱ्यांच्या चुकांसाठी जबाबदार असतो, आणि करारनाम्यातील जबाबदारी पार पाडण्यासाठी सहाय्यकाचा वापर करणारी संस्था कलम ६:७६ नुसार त्या सहाय्यकासाठी उत्तरदायी असते; हे कलम एखाद्या संस्थेने स्वतःची सेवा देण्यासाठी पुरवठादाराचे मॉडेल वापरण्यावर लागू होते.

काळजी घेण्याचे कर्तव्य आता पूर्णपणे न्यायालयांवरच सोपवण्यात आलेले नाही. युरोपियन युनियनचा एआय कायदा उच्च-जोखमीच्या प्रणाली तैनात करणाऱ्यांवर ठोस जबाबदाऱ्या टाकतो: सूचनांनुसार प्रणालीचा वापर करणे, ती वापरण्याची क्षमता आणि अधिकार असलेल्या व्यक्तींवर मानवी देखरेख सोपवणे, त्यांच्या नियंत्रणाखालील इनपुट डेटा सुसंगत असल्याची खात्री करणे, कार्यावर लक्ष ठेवणे आणि धोका निर्माण झाल्यास वापर थांबवणे, नोंदी ठेवणे, आणि कामाच्या ठिकाणी अशी प्रणाली तैनात करण्यापूर्वी कामगार आणि त्यांच्या प्रतिनिधींना माहिती देणे. या जबाबदाऱ्या नियामक आहेत, परंतु निष्काळजीपणाचे मूल्यांकन करणारे न्यायालय काळजीपूर्वक केलेल्या वर्तनाचे वर्णन म्हणून त्यांचा अर्थ लावेल. ज्या संस्थेने वापराच्या सूचनांकडे दुर्लक्ष केले आहे, ती केवळ नियमांचे पालन करत नाही असे नाही; तर तिने फिर्यादीला त्याचा खटला सोपवून दिला आहे.

ऑटोमेशन बायसचा (स्वयंचलन पक्षपाताचा) स्वतंत्रपणे उल्लेख करणे आवश्यक आहे, कारण याच ठिकाणी देखरेख नकळतपणे अयशस्वी ठरते. जो समीक्षक प्रणालीने सुचवलेल्या जवळजवळ प्रत्येक गोष्टीला मान्यता देतो, तो देखरेख करत नाही; आणि जी संस्था आपल्या कर्मचाऱ्यांचे मूल्यमापन त्यांच्या कार्यक्षमतेवर करते, तिने एकप्रकारे तोच परिणाम घडवून आणलेला असतो. कायदेशीर प्रश्न हा आहे की, खरोखरच मानवी निर्णय घेतला गेला होता का, आणि केवळ शिक्कामोर्तब करणे पुरेसे नाही.

जेथे वापरकर्ता धोका पुढे हस्तांतरित करू शकत नाही

पुरवठादार जोखीम उचलतो असे गृहीत धरणाऱ्या संस्थांना तीन गोष्टी नियमितपणे आश्चर्यचकित करतात.

सर्वप्रथम, नुकसान झालेल्या तृतीय पक्षाच्या दृष्टीने, वापरकर्ता हा दृश्यमान पक्ष असतो. पतपुरवठा नाकारलेला ग्राहक, तपासणी साधनाद्वारे नाकारलेला कर्मचारी, चुकीच्या पद्धतीने वर्गीकरण केलेला रुग्ण: हे सर्व पुरवठादाराशी करार करतात किंवा त्याच्याद्वारे हाताळले जातात, आणि ते पुरवठादारावर खटला दाखल करतील. पुरवठादार आपल्या पुरवठादाराकडून नुकसान भरपाई मिळवू शकतो की नाही, हा एक वेगळा प्रश्न आहे जो करारावर अवलंबून असतो आणि त्यामुळे पुरवठादाराविरुद्धच्या दाव्याला विलंब होत नाही.

दुसरे म्हणजे, सामान्य डेटा संरक्षण नियम इतर सर्व गोष्टींपासून स्वतंत्रपणे लागू होतात. जर प्रणाली वैयक्तिक डेटावर प्रक्रिया करत असेल, तर सामान्यतः तैनात करणारा हा नियंत्रक असतो, जो कायदेशीर आधार, पारदर्शकता, परिणाम मूल्यांकन आणि सुरक्षेसाठी जबाबदार असतो. केवळ स्वयंचलित साधनांद्वारे घेतलेला एखादा निर्णय, ज्यामुळे कायदेशीर परिणाम होतात किंवा एखाद्या व्यक्तीवर त्याचप्रमाणे लक्षणीय परिणाम होतो, तो स्वतंत्रपणे नियंत्रित केला जातो आणि त्या व्यक्तीला मानवी हस्तक्षेपाचा व निकालाला आव्हान देण्याचा अधिकार देतो. सामान्य डेटा संरक्षण नियमावलीचा आमचा आढावा ती व्यवस्था स्पष्ट करतो.

तिसरे म्हणजे, बदलामुळे तुमची भूमिका बदलते. जो डिप्लॉयर (deployer) एखाद्या सिस्टीमवर स्वतःचे नाव लावतो, तिचा मूळ उद्देश बदलतो किंवा त्यात लक्षणीय बदल करतो, तो एआय कायद्यानुसार (AI Act) प्रोव्हायडर (provider) बनतो आणि प्रोव्हायडरच्या जबाबदाऱ्या स्वीकारतो. एखाद्या सामान्य-उद्देशीय मॉडेलला (general-purpose model) नियामक निर्णयासाठी स्क्रीनिंग टूलमध्ये (screening tool) रूपांतरित करणे, हे नेमके असेच एक पाऊल आहे जे ही मर्यादा ओलांडते. दुसऱ्याच्या मॉडेलवर आधारित काम करणाऱ्या संस्थांनी, एखादी घटना घडल्यानंतर नव्हे, तर ते मॉडेल बाजारात आणण्यापूर्वीच आपण कोणत्या बाजूला आहोत हे निश्चित केले पाहिजे.

निर्मात्याची भूमिका

उत्पादकाची जबाबदारी वेगळ्या आणि अधिक कठोर स्वरूपाची असते. दिवाणी संहितेच्या कलम ६:१८५ आणि त्यानंतरच्या कलमांनुसार, उत्पादन दायित्व उत्पादकाला त्याच्या उत्पादनातील दोषामुळे झालेल्या नुकसानीसाठी जबाबदार ठरवते, आणि यासाठी पीडित पक्षाला दोष सिद्ध करण्याची आवश्यकता नसते. एखादे उत्पादन तेव्हा सदोष मानले जाते, जेव्हा त्याचे स्वरूप, त्याचा वाजवीपणे अपेक्षित असलेला वापर आणि ते चलनात आणल्याची वेळ या बाबी विचारात घेता, ते एखाद्या व्यक्तीला अपेक्षित असलेली सुरक्षितता प्रदान करत नाही. दावा करणाऱ्याला नुकसान, दोष आणि त्यांच्यातील कार्यकारण संबंध सिद्ध करावा लागतो, आणि एआय (AI) प्रकरणात खरी लढाई इथेच असते.

या नियमावलीला निश्चित मर्यादा आहेत. ज्या दिवशी पीडित पक्षाला नुकसान, दोष आणि उत्पादकाची ओळख याबद्दल माहिती मिळाली किंवा मिळायला हवी होती, त्या दिवसापासून तीन वर्षांच्या आत दावा दाखल करणे आवश्यक आहे, आणि विशिष्ट उत्पादन चलनात आणल्यानंतर दहा वर्षांनी हा हक्क संपुष्टात येतो. या नियमावलीअंतर्गत असलेले दायित्व कराराद्वारे वगळले किंवा मर्यादित केले जाऊ शकत नाही, आणि त्यात मृत्यू, शारीरिक इजा आणि खाजगीरित्या वापरल्या जाणाऱ्या इतर मालमत्तेचे नुकसान यांचा समावेश होतो, मात्र यासाठी एक कमी मर्यादा लागू असते. उत्पादकाकडे बचावाचे मर्यादित पर्याय उपलब्ध आहेत, ज्यात विकासात्मक जोखमीच्या बचावाचा समावेश आहे; हा बचाव तेव्हा लागू होतो जेव्हा उत्पादनाच्या वितरणाच्या वेळी वैज्ञानिक आणि तांत्रिक ज्ञानाच्या स्थितीमुळे तो दोष उघड होऊ शकला नसता.

सॉफ्टवेअरची स्थिती बदलणारी सुधारणा

सध्याच्या डच नियमांनुसार, उत्पादन ही एक चल वस्तू आहे आणि स्वतंत्र सॉफ्टवेअर या व्याख्येत बसते की नाही, यावर अनेक वर्षांपासून वाद सुरू आहे. तो वाद आता संपुष्टात येत आहे. सुधारित उत्पादन दायित्व निर्देश, निर्देश (EU) 2024/2853, ८ डिसेंबर २०२४ रोजी अंमलात आला आणि ९ डिसेंबर २०२६ पर्यंत त्याचे राष्ट्रीय कायद्यात रूपांतर करणे आवश्यक आहे; तो त्या तारखेनंतर बाजारात आणलेल्या किंवा सेवेत आणलेल्या उत्पादनांना लागू होतो, त्यामुळे त्यापूर्वी प्रसारित झालेल्या उत्पादनांवर नागरी संहितेच्या सध्याच्या तरतुदी लागू राहतात. एआय प्रणालींच्या दायित्वासाठी चार बदल महत्त्वाचे आहेत.

सॉफ्टवेअर, ज्यामध्ये एआय प्रणाली आणि डिजिटल उत्पादन फाइल्सचा समावेश आहे, हे स्पष्टपणे एक उत्पादन आहे. जबाबदार पक्षांचे वर्तुळ निर्मात्याच्या पलीकडे विस्तारते आणि त्यात निर्मात्याच्या नियंत्रणाबाहेर उत्पादनात लक्षणीय बदल करणारा पक्ष, अधिकृत प्रतिनिधी, आयातदार आणि, परिभाषित परिस्थितीत, पूर्तता सेवा प्रदाता आणि ऑनलाइन प्लॅटफॉर्म यांचा समावेश होतो. व्यावसायिकरित्या न वापरलेल्या डेटाचा नाश किंवा तो दूषित होणे, ही पुनर्प्राप्त करण्यायोग्य नुकसानीची व्याप्ती आहे, जी सॉफ्टवेअरमधील बिघाडामुळे होणाऱ्या नुकसानीची एक वास्तविक श्रेणी आहे. आणि एखादे उत्पादन बाजारात आणल्यानंतर घडणाऱ्या गोष्टींमुळे सदोष असू शकते: आवश्यक सॉफ्टवेअर अपडेटमधील दोष, सुरक्षा अपडेट्स पुरवण्यात आलेले अपयश, किंवा निर्मात्याने त्यावर नियंत्रण ठेवलेल्या सततच्या शिक्षणाचे परिणाम.

ही सुधारणा पुराव्याच्या समस्येवरही थेट हल्ला करते. न्यायालय, फिर्यादीच्या विनंतीनुसार प्रतिवादीला संबंधित पुरावे उघड करण्याचा आदेश देऊ शकते आणि जर प्रतिवादीने त्याचे पालन केले नाही, तर ती बाब सदोष असल्याचे गृहीत धरले जाते. सदोषतेची आणि कार्यकारणभावाची खंडनीय गृहीतके तेव्हा लागू होतात, जेव्हा तांत्रिक किंवा वैज्ञानिक गुंतागुंतीमुळे फिर्यादीला ती सिद्ध करण्यात प्रचंड अडचण येते, मात्र अट ही आहे की फिर्यादीने ती शक्यता पटण्याजोगी सिद्ध केली पाहिजे. ज्या मॉडेलचे कोणीही पूर्णपणे स्पष्टीकरण देऊ शकत नाही, अशा मॉडेलचा सामना करणाऱ्या फिर्यादीसाठी, एका युक्तिवादीय प्रकरणात आणि एका अशक्य प्रकरणात हाच फरक असतो.

करार, अनुरूपता आणि वगळण्याच्या मर्यादांची कलमे

व्यवसायांमध्ये, कायद्याऐवजी करार हेच सहसा पहिले लढाईचे मैदान असते. एआय प्रणालीच्या पुरवठादारावर त्याने मान्य केलेली जबाबदारी असते: वितरित केलेली प्रणाली कराराशी सुसंगत असली पाहिजे आणि खरेदीदाराला अपेक्षित असलेले गुणधर्म तिच्यात असले पाहिजेत. जेव्हा पुरवठादाराने अचूकतेची पातळी, उपलब्धतेची पातळी किंवा एआय कायद्याचे पालन करण्याचे वचन दिलेले असते, तेव्हा ते पूर्ण करण्यात अयशस्वी होणे हा कराराचा भंग ठरतो आणि चुकीची योग्य सूचना दिल्यानंतर कामगिरी, नुकसान भरपाई आणि करार रद्द करणे यांसारखे सामान्य उपाय योजले जातात.

पुरवठादार मर्यादा आणि वगळण्याच्या कलमांसह प्रतिसाद देतात, आणि ती कलमे सामान्यतः व्यावसायिक पक्षांमध्ये प्रभावी असतात. ती अमर्याद नसतात. एखादे कलम वाजवीपणा आणि निष्पक्षतेच्या मानकांनुसार त्यावर अवलंबून राहणे अस्वीकार्य असेल तर ते रद्द केले जाऊ शकते; पुरवठादाराच्या बाजूने हेतुपुरस्सर निष्काळजीपणा किंवा गंभीर चूक झाल्यास न्यायालये हाच मार्ग अवलंबतात. तसेच, जर कलम सर्वसाधारण स्वरूपाचे असेल आणि दुसऱ्या पक्षाला त्याची नोंद घेण्याची खरी संधी कधीच दिली गेली नसेल, तर ते अयशस्वी ठरू शकते. उत्पादन दायित्व प्रणालीअंतर्गत असलेले दायित्व, पीडित पक्षाच्या बाबतीत, कराराद्वारे अजिबात टाळता येत नाही. व्यवहारात, वाटाघाटी या मर्यादा, डेटा उल्लंघन आणि बौद्धिक संपदा उल्लंघनासाठीचे अपवाद, नियामक दंडांसाठीची नुकसानभरपाई, आणि ग्राहकाला स्वतःचा बचाव करण्यासाठी आवश्यक असलेली कागदपत्रे व नोंदी (लॉग्स) पुरवण्याची पुरवठादाराची जबाबदारी यांबद्दल असतात. नुकसानीच्या दाव्यांवरील आमचे पान हे दावे कसे तयार केले जातात हे स्पष्ट करते.

एआय कायदा काय करतो आणि काय करत नाही

एआय कायदा हे एक नियामक साधन आहे. तो पुरवठादार आणि उपयोजकांना काय करावे हे सांगतो आणि पर्यवेक्षकांना त्याची अंमलबजावणी करण्याचे अधिकार देतो; तो एआय प्रणालीमुळे नुकसान झालेल्या व्यक्तीला नुकसान भरपाईचा हक्क निर्माण करत नाही. प्रस्तावित एआय दायित्व निर्देश, ज्याने दिवाणी दाव्यांमध्ये सुसूत्रता आणली असती आणि सर्वत्र प्रकटीकरण व गृहितके लागू केली असती, तो मागे घेण्यात आला आहे. जे शिल्लक आहे ते म्हणजे वर वर्णन केलेले संयोजन: राष्ट्रीय अपकृत्य आणि करार कायदा, तसेच सुधारित उत्पादन दायित्व व्यवस्था.

त्यामुळे एआय कायदा दायित्वाच्या संदर्भात अप्रासंगिक ठरत नाही. तो तीन प्रकारे महत्त्वाचा आहे. तो काळजीचा दर्जा निश्चित करतो, जेणेकरून नियमांचे पालन न करणे हा निष्काळजीपणाचा पुरावा ठरतो. तो कागदपत्रे तयार करतो, कारण तांत्रिक दस्तऐवज, वापरासाठीच्या सूचना, लॉग्स आणि बाजारोत्तर देखरेख फाईल हे सर्व कायद्यानुसार अस्तित्वात असतात आणि कार्यवाहीमध्ये त्यांची मागणी केली जाऊ शकते. आणि तो भूमिकांचे वाटप करतो, जेणेकरून 'प्रदाता कोण आणि तैनात करणारा कोण' हा प्रश्न, जो पूर्वी वादाचा विषय होता, त्याला आता कायदेशीर उत्तर मिळाले आहे. आमची आयटी कायद्याची प्रॅक्टिस हे वर्गीकरणाचे प्रश्न वाद बनण्यापूर्वीच हाताळते.

जिथे वापरकर्ता आणि निर्माता भेटतात

बहुतेक वास्तविक घटना साखळीच्या एका टोकाकडील एकाच चुकीमुळे घडत नाहीत. त्या अशा मॉडेलमुळे घडतात, जे ज्या लोकसंख्येवर लागू केले होते तिचे प्रतिनिधित्व न करणाऱ्या डेटावर प्रशिक्षित केलेले असते, अशा पुरवठादाराने एकत्रित केलेले असते ज्याने त्या संदर्भात त्याची चाचणी केलेली नसते, अशा संस्थेने तैनात केलेले असते ज्याने त्याचा वापर अशा उद्देशासाठी केला ज्याच्या सूचनांमध्ये त्याचा उल्लेख नव्हता, आणि अशा कर्मचाऱ्यांकडून चालवलेले असते ज्यांना त्याच्या मर्यादा काय आहेत हे कधीच सांगितले गेले नव्हते. डच कायद्याला यात कोणतीही अडचण नाही: एकाच नुकसानीसाठी अनेक पक्ष जबाबदार असू शकतात, प्रत्येकजण पीडित पक्षाप्रती संपूर्ण नुकसानीसाठी जबाबदार असतो, आणि ते नंतर आपापल्या योगदानानुसार आपापसात अंतर्गत वाटप ठरवतात.

खालील तक्त्यामध्ये सामान्यतः जबाबदारी कोणावर असते आणि कोणत्या आधारावर असते हे स्पष्ट केले आहे.

डच बालसंगोपन लाभांचे प्रकरण हा प्रत्येक डच चर्चेचा मुख्य संदर्भबिंदू आहे, आणि ते कायद्याच्या राज्याऐवजी एक विशिष्ट पद्धतच दर्शवते: एक अपारदर्शक जोखीम वर्गीकरण प्रणाली, खऱ्या अर्थाने वैयक्तिक मूल्यांकन न करता तिच्या निष्कर्षांवर आधारित घेतलेले निर्णय, आणि त्याचे संपूर्ण परिणाम ज्यांच्यावर ते लादले गेले. त्याचे कायदेशीर परिणाम फौजदारी स्वरूपाचे नसून प्रशासकीय आणि राजकीय स्वरूपाचे होते, आणि फौजदारी जबाबदारीबद्दल ते काय दर्शवते आणि काय नाही, यावर आम्ही आमच्या 'एआय आणि फौजदारी कायदा' या लेखात चर्चा केली आहे.

पुराव्याची समस्या, आणि ती कशी बदलत आहे.

जो कोणी दावा करतो त्याला तो सिद्ध करावा लागतो, आणि एआयच्या प्रकरणांमध्ये पुरावा सादर करणे हाच सर्वात कठीण भाग असतो. दावा करणाऱ्याला हे दाखवावे लागते की प्रणालीने काय केले, ते का चुकीचे होते, आणि त्या चुकीमुळे नुकसान कसे झाले. हे करण्यासाठी लागणारी माहिती प्रतिवादीकडे असते, आणि एका गुंतागुंतीच्या मॉडेलमध्ये, अगदी अंतर्गत स्तरावरही तिची पुनर्रचना करणे खरोखरच अवघड असू शकते.

तीन घडामोडींमुळे हे संतुलन बदलत आहे. उच्च-जोखमीच्या प्रणालींसाठी लॉगिंग करणे आता एक कायदेशीर आवश्यकता आहे, त्यामुळे जी नोंद पूर्वी ऐच्छिक होती, ती आता अस्तित्वात असणे आवश्यक आहे. सुधारित नियमांनुसार, उत्पादन दायित्वाच्या दाव्यांमध्ये पुरावे उघड करणे शक्य झाले आहे, आणि प्रतिवादीने पालन न केल्यास सदोषतेची पूर्वधारणा त्याला आधार देते. तसेच, डच दिवाणी प्रक्रिया आधीपासूनच एखाद्या पक्षाला, ज्यामध्ये त्याचे कायदेशीर हित आहे, अशा विशिष्ट ओळखलेल्या कागदपत्रांची मागणी करण्याची परवानगी देते, ज्याचा उपयोग चाचणी अहवाल, घटना नोंदी आणि अंतर्गत जोखीम मूल्यांकन मिळवण्यासाठी नियमितपणे केला जातो.

प्रतिवादीसाठी व्यावहारिक निष्कर्ष अस्वस्थ करणारा पण स्पष्ट आहे: तुम्ही जी कागदपत्रे जपून ठेवली आहेत, तीच तुमच्या विरोधात वाचली जातील आणि जी कागदपत्रे तुम्ही जपून ठेवली नाहीत, तीदेखील तुमच्या विरोधात वापरली जातील. चाचणी, ज्ञात मर्यादा, घटना आणि त्यांच्या हाताळणीच्या पूर्ण, दिनांकित, प्रामाणिक नोंदी हा सर्वात मजबूत उपलब्ध बचाव आहे, कारण त्यातून हे दिसून येते की संस्थेने केवळ चांगल्याची आशा करण्याऐवजी सारासार विचार केला होता. जिथे घटनेला गुन्हेगारी पैलू देखील असतो, उदाहरणार्थ सिस्टीममध्ये अनधिकृत प्रवेश किंवा डेटामध्ये फेरफार, तिथे दिवाणी दाव्यासोबत नेदरलँड्समधील संगणक गुन्हे आणि सायबर गुन्ह्यांसाठीची फौजदारी चौकट लागू होते आणि फौजदारी तपासात नेमके तेच साहित्य जप्त केले जाते.

भौतिक जगातील स्वायत्त प्रणाली

जेव्हा एखादी एआय प्रणाली वाहन चालवते, ड्रोन उडवते किंवा रोबोटिक हात हलवते, तेव्हा उत्तरदायित्वाचा एक अतिरिक्त स्तर लागू होतो, आणि तो सामान्यतः आतापर्यंत चर्चा केलेल्या कोणत्याही गोष्टीपेक्षा अधिक कठोर असतो. शारीरिक हानीसाठी जोखमीचे उत्तरदायित्व लागू होते, ज्यामध्ये कोणी निष्काळजी होते की नाही हे विचारले जात नाही.

मोटार वाहनांसाठी, रस्ता वाहतूक कायदा १९९४ चे कलम १८५, पादचारी आणि सायकलस्वारांना झालेल्या नुकसानीसाठी मोटार वाहनाचा मालक किंवा चालक जबाबदार ठरवते, मात्र जर अनपेक्षित आपत्ती (फोर्स मॅज्युर) नसेल तर. ही अट पूर्ण करणे अत्यंत कठीण आहे. वाहन मानवी चालकाने चालवले जात होते की चालक सहाय्यक प्रणालीने, यावर हा नियम लागू होत नाही: प्रथम चालक जबाबदार असतो आणि सॉफ्टवेअरच्या निर्मात्याविरुद्ध कोणताही दावा नंतर केला जातो. सार्वजनिक रस्त्यांवर खऱ्या अर्थाने स्वयंचलित वाहनांची चाचणी घेण्यासाठी, डच प्रयोग कायद्यांतर्गत परवानगी आवश्यक असते आणि त्या परवानगीसोबत जोडलेल्या अटी, ज्यात पर्यवेक्षकाची उपस्थिती आणि भूमिका यांचा समावेश आहे, त्या काळजीच्या मानकांचा भाग बनतात.

मानवरहित विमानांवर युरोपियन ड्रोन नियमावली लागू होते, आणि ऑपरेटर नोंदणी व श्रेणीनुसारच्या आवश्यकतांचे व्यवस्थापन नेदरलँड्समध्ये 'रिक्सइन्स्पेक्टी डिजिटेल इन्फ्रास्ट्रक्चर'द्वारे केले जाते. आपल्या श्रेणीबाहेर किंवा आवश्यक क्षमतेशिवाय उड्डाण करणारा ऑपरेटर केवळ विमानचालन नियमांचे उल्लंघन करत नाही; तर तो न्यायालयाच्या दृष्टीने सावधगिरीचे वर्तनही ओलांडतो, ज्यामुळे ऑटोपायलटबद्दलची तांत्रिक चर्चा सुरू होण्यापूर्वीच निष्काळजीपणाचा प्रश्न निकाली निघतो.

या नियमांसोबतच सदोष वस्तूंसंबंधीचा सर्वसाधारण नियमही लागू होतो. एखाद्या चल वस्तूचा मालक, जी तिच्यासाठी ठरवलेल्या मानकांची पूर्तता करत नाही आणि त्यामुळे एक विशिष्ट धोका निर्माण करते, त्या धोक्यामुळे होणाऱ्या नुकसानीसाठी जबाबदार असतो. हा नियम भौतिक यंत्रालाही लागू होतो, जरी त्यातील मूळ दोष त्याच्या सॉफ्टवेअरमध्ये असला तरीही. आणि म्हणूनच औद्योगिक रोबोट किंवा स्वयंचलित गोदाम प्रणालीचा मालक केवळ विक्रेत्यावर बोट दाखवू शकत नाही. जिथे उत्पादन दायित्वाचा नियम लागू होतो, तिथे या दोन्ही प्रणाली एकमेकांशी संवाद साधतात आणि नुकसान झालेली व्यक्ती सामान्यतः जो मार्ग सिद्ध करण्यास सर्वात सोपा असेल, त्याचाच अवलंब करते.

स्वायत्त कार्ये असलेली यंत्रसामग्री चालवणाऱ्या संस्थांसाठी याचा व्यावहारिक परिणाम असा होतो की, विमा आणि करार हे दोष-आधारित विश्लेषणावर नव्हे, तर कठोर दायित्वाच्या आधारावर केले पाहिजेत. पुरवठादाराविरुद्ध दाद मागता येणे फायद्याचे आहे, पण त्यामुळे दावा आधी तुमच्या दारात येणे थांबत नाही.

दोन्ही बाजूंनी धोका कमी करणे

एआय प्रणालींची उत्तरदायित्व कमी करणारे उपाय हेच त्या प्रणालींना योग्यरित्या कार्यरत ठेवतात, म्हणूनच नियामक वेळापत्रकाचा विचार न करता ते करणे योग्य आहे.

प्रणाली स्थापित करणाऱ्या संस्थेसाठी, सर्वप्रथम प्रणालींची यादी तयार करा: कोणत्या प्रणाली वापरात आहेत, त्या कोणी पुरवल्या, त्या काय ठरवतात किंवा प्रभावित करतात आणि त्या कोण चालवते. प्रत्येकासाठी तुमची भूमिका निश्चित करा, कारण पुरवठादार आणि स्थापित करणाऱ्याची कर्तव्ये वेगवेगळी असतात. त्यानंतर त्याचा अभिप्रेत उद्देश लिहून काढा आणि त्याच्या मर्यादेतच राहा; टाळता येण्याजोग्या दायित्वाचे सर्वात सामान्य कारण म्हणजे, ज्या कामासाठी एखादे साधन प्रमाणित केलेले नाही, त्यासाठी त्याचा वापर करणे. प्रणाली चालवणाऱ्या लोकांना ती प्रणाली रद्द करण्याचा खरा अधिकार द्या आणि त्यांच्या कामाचे प्रमाण मोजण्याऐवजी त्यांच्या निर्णयक्षमतेचे मूल्यमापन करा. नोंदी ठेवा आणि त्या वादाच्या वेळी उपयुक्त ठरतील इतक्या काळासाठी जपून ठेवा. थोडक्यात टळलेल्या घटनांसह सर्व घटनांची नोंद करा आणि त्यावर काय कारवाई केली गेली याचीही नोंद ठेवा.

उत्पादक किंवा पुरवठादारासाठी, संपूर्ण जीवनचक्रात खालील बाबींचा समावेश असतो: दस्तऐवजीकृत जोखीम व्यवस्थापन, नियामकाला समजावून सांगता येईल असे डेटा गव्हर्नन्स, ज्या लोकसंख्येवर प्रणाली प्रत्यक्षात वापरली जाणार आहे त्यांच्यावर तिची चाचणी, मर्यादा आणि त्रुटींच्या दरांबद्दल आश्वासक असण्याऐवजी प्रामाणिक असणाऱ्या वापराच्या सूचना, ग्राहकांना समस्या कळवण्यासाठी एक माध्यम, आणि सुरक्षा पॅचेससाठी कोण आणि किती काळासाठी जबाबदार आहे हे सांगणारे अपडेट धोरण. सुधारित उत्पादन दायित्व प्रणाली हा शेवटचा मुद्दा पूर्वीपेक्षा अधिक स्पष्ट करते: तुम्ही पुरवण्याचे वचन दिलेले अपडेट्स पुरवण्यात आलेले अपयश हेच उत्पादनाला सदोष बनवू शकते.

दोन्ही पक्षांनी कराराला केवळ एक औपचारिकता न मानता, जोखीम वाटपाची प्रक्रिया म्हणून पाहिले पाहिजे. महत्त्वाच्या कलमांमध्ये अभिप्रेत हेतूचे वर्णन, अनुपालन आणि कामगिरीबद्दलची हमी, दस्तऐवज आणि लॉग सुपूर्द करण्याचे बंधन, दोन्ही बाजूंनी घटनेची सूचना देण्याची कर्तव्ये, दायित्वाची कमाल मर्यादा आणि त्यातील अपवाद, तृतीय-पक्षाचे दावे आणि नियामक दंडांसाठीची नुकसानभरपाई, आणि संबंध संपुष्टात आल्यास मॉडेल व डेटाचे काय होईल हे ठरवणारी बाहेर पडण्याची व्यवस्था यांचा समावेश होतो. प्रणाली प्रत्यक्षात काय ठरवते याचा संदर्भ न घेता, केवळ अमूर्तपणे वाटाघाटी करून ठरवलेली मर्यादा कोणाचेही संरक्षण करत नाही.

शेवटी, तात्काळ धोका दिवाणी असला तरीही, फौजदारी कारवाईची शक्यता लक्षात ठेवा. एआयच्या अपयशाबद्दल एखाद्या कंपनीवर खटला चालवणे अजूनही असामान्य आहे, परंतु त्यातील घटक सामान्यच आहेत: कर्तव्य, त्याचे उल्लंघन, अपेक्षित हानी आणि धोका स्वीकारल्याचे सिद्ध करता येणारी संस्था. जेव्हा एखादी प्रणाली स्पष्टपणे बेकायदेशीर कामासाठी वापरली जाते, किंवा जेव्हा एखादी कंपनी हानीकारक आहे हे माहीत असूनही एखादी प्रणाली चालवत राहते, तेव्हा फौजदारी कारवाईचा मार्ग खुला असतो, आणि त्याचे संपूर्ण विश्लेषण आमच्या डच फौजदारी कायद्यावरील लेखात आणि अल्गोरिदम व फौजदारी जबाबदारीवरील संबंधित लेखात मांडले आहे.

सतत विचारले जाणारे प्रश्न

Law & More आम्ही एआय प्रणाली तयार करणाऱ्या आणि त्यांचा वापर करणाऱ्या संस्थांना, करारांमधील जोखमीचे वाटप, एआय कायद्यांतर्गत वर्गीकरण आणि कर्तव्ये, तसेच प्रणालीमुळे नुकसान झाल्यास बचाव करणे किंवा दावे दाखल करणे यावर मार्गदर्शन करतो. जर तुमच्या संस्थेतील एआय प्रणालीने घेतलेल्या निर्णयाला आता आव्हान दिले जात असेल, तर आमच्याशी संपर्क साधा जेणेकरून आम्ही परिस्थितीचे त्वरित मूल्यांकन करू शकू.