ગુજરાત હાઇકોર્ટમાં અમદાવાદથી અરજદાર વિકાસ.વિ.નાયરે એડવોકેટ અમિત પંચાલ દ્વારા AI અને ડીપફેકને લઈને જાહેર હિતની અરજી દાખલ કરી છે. જેમાં હાઇકોર્ટે હુકમ કરતા મેટા, X, ગુગલ વગેરેને નોટિસ પાઠવીને જવાબ રજૂ કરવા કહ્યું છે. તેઓને કેન્દ્ર સરકારના સહયોગ પોર્ટલ ઉપર જોડાવવા આદેશ કર્યો છે.

આ અરજીમાં મૂળ મુદ્દો એ હતો કે, પ્લેટફોર્મ પ્રોવાઇડર કંપનીઓને સૂચના આપવા છત્તા કન્ટેન્ટ દૂર કરતી નથી અને મોટા ભાગે કહે છે કે URL ઉપલબ્ધ નથી. બાળકો પણ AIથી બનેલા વીડિયો જુએ છે. લોકોને પણ સમજતા સમય લાગે છે કે આ AI જનરેટેડ વિડિઓ છે.

ગત સુનવણીમાં કેન્દ્ર સરકારે કહ્યું હતું કે, તેઓએ સહયોગ પ્લેટફોર્મ બનાવ્યું છે, જ્યાં તમામ પ્લેટફોર્મ પ્રોવાઇડર જોડાયેલા છે. તેમને વાંધાજનક AI જનરેટેડ કન્ટેન્ટ ઉતારવા માટે જણાવવામાં આવે છે. કોર્ટે કહ્યું હતું કે, પ્લેટફોર્મ દ્વારા આવા વીડિયો કોઈ ઓથેન્ટિકેશન વગર મૂકી શકે નહીં, જો ઓથેન્ટિકેશનની વ્યવસ્થા ના હોય તો પ્લેટફોર્મ ઉપર આવતી ફરિયાદો ધ્યાને લેવી જોઈએ.

રાજ્ય સરકાર વતી જણાવાયું હતું કે, જાન્યુઆરી, 2026માં પ્લેટફોર્મ પ્રોવાઇડરને 107 કન્ટેન્ટ દૂર કરવા કહ્યું છત્તા તે પ્લેટફોર્મ ઉપર છે. વિદેશમાંથી પણ ફરિયાદના ફોન આવે છે, લોકોની ઇમેજ ખરાબ થઈ રહી છે. ડીપ ફેક વીડિયોને તો ઓળખવો અઘરો છે.

કેન્દ્રના ગૃહ વિભાગના જણાવ્યા મુજબ, નિયમો ચાલુ વર્ષે 2026માં બન્યા છે. જેમાં ફેક વીડિયો ઉતારવા પ્લેટફોર્મને સૂચનાઓ આપવામાં આવે છે. કોર્ટે પૂછ્યું હતું કે જો પ્લેટફોર્મ પ્રોવાઇડર ના માને તો શું કરશો ? કેન્દ્ર સરકારે કહ્યું હતું કે નિર્દેશ ઉપર ત્રણ કલાકમાં કન્ટેન્ટ હટાવવુ પડે, પહેલા આ સમય 36 કલાકનો હતો. કોર્ટે ફરી પૂછ્યું હતું કે જો તેઓ કન્ટેન્ટ ના ઉતારે તો શું ?

સરકારી વકીલે કહ્યું હતું કે, IT એક્ટ 66C, 66D અને 66E અંતર્ગત કાર્યવાહી કરવામાં આવે છે. જેથી કોર્ટે કહ્યું હતું કે, તેના પ્રાવધાન તો ખોટું કન્ટેન્ટ ચઢાવનાર સામે છે, પણ પ્લેટફોર્મ માટે શું ? તમે શું કરી શકો ? તમે નિર્દેશ આપી શકો, પણ નિર્દેશ ન માને તો શું ?

કેન્દ્રએ કહ્યું હતું કે, રાજ્ય વિરુદ્ધના ગુન્હાઓ માટે સખત કાર્યવાહીના પ્રાવધાન લાગુ છે, પણ પ્રાઇવેટ ફરિયાદ માટે નહીં. જો પ્લેટફોર્મ પ્રોવાઇડર AI જનરેટેડ વાંધાજનક કન્ટેન્ટ જાતે દૂર ન કરે અથવા સૂચના બાદ પણ દૂર ના કરે તો સહ આરોપી બને છે. જો કે કોર્ટે કહ્યું હતું કે આરોપ સાબિત કરવા કોર્ટ ટ્રાયલની જરૂર પડે એમાં ટાઈમ જોઈએ, એના માટેનો સમય નથી.

કોર્ટે કહ્યું હતું કે, સૂચના આપ્યા બાદ ત્રણ કલાકનો સમય કન્ટેન્ટ ઉતારવા માટે વધુ કહેવાય. તુરંત થતી હાનિ કેવી રીતે અટકાવી શકાય ? તમે જાતે પ્લેટફોર્મ ઉપરથી કન્ટેન્ટ ઉતારી શકો તેમ નથી. તુરંતના પગલા લેવા માટે શું પ્રાવધાન છે ?.

રાજ્ય સરકાર વતી કહેવાયું હતું કે, એક હજાર ફરિયાદમાંથી માત્ર 14 ફરિયાદનો જ પ્લેટફોર્મ પ્રોવાઇડરે જવાબ આપ્યો હતો. વળી X સહયોગ પોર્ટલ સાથે સંકળાયેલ નથી. આથી એક યોગ્ય મિકેનિઝમ બનાવવાની જરૂર છે. સોશિયલ મીડિયા જ્યારે IT મંત્રાલય અંતર્ગત આવે છે, ત્યારે હવે કોર્ટ પ્લેટફોર્મ પ્રોવાઇડરને નિયમો પાળવા હુકમ કરી શકે છે.

અગાઉની સુનવણીમાં રજૂઆત કરાઈ હતી કે, બંધારણીય હોદ્દેદારોના પણ મોટા પાયે AI જનરેટેડ અને ડિપફેક વીડિયો તેમજ ફોટા બની રહ્યા છે. તેનાથી પદ અને પ્રતિષ્ઠામાં ઘટાડો થાય છે અને લોકોનો વિશ્વાસ ઘટે છે. ત્યારે IT એક્ટ અંતર્ગત રાજ્ય સરકારે તેની ઉપર નિયમો બનાવવા જરૂરી છે. ઓફિસિયલ ગેઝેટ અને નોટોફિકેશન દ્વારા આવા નિયમો બની શકે છે.

એડવોકેટ જનરલે જણાવ્યું હતું કે, AI જનરેટેડ ખોટા વીડિયોને દૂર કરવા ઓથોરિટીએ મીડીયમને જણાવવું પડે છે. વળી આવા નકલી ફોટા અને વીડિયો ખોટા IDથી ચઢાવ્યા હોય તો તેને ઓળખી કાઢવો મુશ્કેલ બને છે. IT એક્ટની કલમ 69A આ બાબતની જોગવાઈ કરે છે. જે પબ્લિક એક્સેસ બ્લોક કરવા માટેની સત્તા આપે છે. સામાન્ય રીતે દેશની સલામતી, આંતરરાષ્ટ્રી મિત્રતા, પબ્લિક ઓર્ડર વગેરેને લઈને પ્લેટફોર્મ પ્રોવાઇડરને કન્ટેન્ટ બ્લોક કરવા સૂચના આપી શકાય છે. IT એક્ટ અંતર્ગત કેન્દ્ર અને રાજ્ય સરકાર તેની ઉપર નિયમો બનાવી શકે છે.

અરજદારને રાજ્યના સાયબર ડિપાર્ટમેન્ટ તરફથી ઇમેઇલ મળ્યો હતો કે, જો તેઓને આવી કોઈ ફરિયાદ મળે તો તેઓ પગલા લે છે. કોર્ટે કહ્યું હતું કે, નકલી ફોટો અને વીડિયોથી વ્યક્તિને ખરાબ ચીતરવામાં આવે છે. બાળકો અને માનવતા વિરુદ્ધ કન્ટેન્ટ સોશિયલ મીડિયા પ્લેટફોર્મ પર ઉપલબ્ધ થતા થયા છે. લોકોની ઓળખી ચોરી કરવામાં આવે છે, તેમની ગોપનીયતાનો ભંગ કરવામાં આવે છે. તેમજ અશ્લીલ અને સેક્સ્યુઅલ કન્ટેન્ટ બનાવીને સોશિયલ મીડિયા ઉપર ચઢાવવામાં આવે છે. પરંતુ તેને દૂર કરવાની સૂચના આપતા પ્લેટફોર્મ પ્રોવાઇડર 36 કલાકનો સમય લે છે.

એડવોકેટ જનરલે જણાવ્યું હતું કે, AI અને ડીપફેક મામલે પ્લેટફોર્મ પ્રોવાઇડરને લઈને ચીન કડક કાયદાઓ લાવ્યું છે. જો પ્લેટફોર્મ પ્રોવાઇડરને કન્ટેન્ટ દૂર કરવા રજૂઆત કરવામાં આવે તો તેઓ જવાબ નથી આપતા. હાઇકોર્ટે કહ્યું હતું કે, પ્લેટફોર્મ પ્રોવાઇડર સમક્ષ વાંધો ઉઠાવવાથી તેઓ જવાબ આપે છે અથવા નથી પણ આપતા કારણકે તે વિવાદાસ્પદ પોસ્ટ ઉપર સતત લાઈક્સ મળતી હોય છે. જેથી તેને તેઓ પોતાના પ્લેટફોર્મ ઉપરથી નીચે ઉતારતા નથી.

ગુજરાત હાઇકોર્ટ લાઈવ સ્ટ્રીમિંગ રૂલમાં કોપીરાઇટ હોવા છતાં તેના વીડિયો સોશિયલ મીડિયા પ્લેટફોર્મ ઉપર વાયરલ થાય છે, જે અંગે પ્લેટફોર્મને જાણ કરવા છતાં તે વીડિયોને દૂર કરાતા નથી. વળી આવા કેટલાય નકલી વીડિયો અને ફોટા બનતા રહે છે, જેને રોકવા ખૂબ જ અઘરા છે. તેને રિયલ ટાઈમ જ પ્લેટફોર્મ પરથી ઉતારવા પડે તો જ તેને નાથી શકાય તેમ છે. અરજદારે જણાવ્યું હતું કે, AIથી તૈયાર કરાયેલું ટ્રાયલ કોર્ટનું એવું જજમેન્ટ સમક્ષ મુકવામાં આવ્યું હતું જે હકીકતમાં અસ્તિત્વ જ ધરાવતું નહોતું.