ഗൂഗിളിന്റെ ജെമിനി 2.5 ഫ്ലാഷ് ഇമേജ് മോഡലിന് ലഭിച്ച 'നാനോ ബനാന' എന്ന ലളിതവും ആകർഷകവുമായ വിളിപ്പേര്, കേവലം ഒരു ബ്രാൻഡിംഗ് തന്ത്രം മാത്രമല്ല, മറിച്ച് സങ്കീർണ്ണമായ ഒരു സാങ്കേതികവിദ്യയെ സാധാരണക്കാർക്ക് പ്രാപ്യമാക്കുന്ന പ്രത്യയശാസ്ത്രപരമായ ഒരു ഉപകരണം കൂടിയാണ്. ആഗോളതലത്തിൽ അമ്പത് കോടിയിലധികം ചിത്രങ്ങൾ സൃഷ്ടിച്ചുകൊണ്ട് ഡിജിറ്റൽ സൗന്ദര്യശാസ്ത്രത്തിൽ പുതിയൊരു മാതൃകാപരിവർത്തനത്തിന് ഈ കൃത്രിമബുദ്ധി സംവിധാനം നേതൃത്വം നൽകുമ്പോൾ, അതിന്റെ ഏറ്റവും വലിയ പരീക്ഷണശാലയായി ഇന്ത്യ മാറിക്കൊണ്ടിരിക്കുന്നു. സെപ്റ്റംബർ മാസത്തിൽ മാത്രം ഒന്നര കോടിയിലധികം ഡൗൺലോഡുകൾ എന്ന അവിശ്വസനീയമായ കണക്ക്, അമേരിക്കയെ അപേക്ഷിച്ച് അമ്പത്തിയഞ്ച് ശതമാനം കൂടുതൽ സ്വീകാര്യതയോടെ, ഇന്ത്യയെ ലോകത്തിലെ ഏറ്റവും വലിയ നാനോ ബനാന ഉപഭോക്തൃ വിപണിയായി അടയാളപ്പെടുത്തുന്നു. ഇത് കേവലം ഒരു സംഖ്യാപരമായ വിജയമല്ല, മറിച്ച് ആഴത്തിലുള്ള സാമൂഹിക-സാംസ്കാരിക അഭിലാഷങ്ങളുടെയും, ഡിജിറ്റൽ സാക്ഷരതയുടെ അഭാവത്തിന്റെയും, ആഗോള സാങ്കേതിക ശക്തികൾക്ക് മുന്നിലുള്ള ഇന്ത്യൻ സമൂഹത്തിന്റെ നിരുപാധികമായ സമർപ്പണത്തിന്റെയും സങ്കീർണ്ണമായ അടയാളമാണ്.
ഈ സംഖ്യാപരമായ വിജയത്തിന്റെ ഉപരിതല പാളികൾക്കപ്പുറം, ഷോഷാന സുബോഫിന്റെ 'നിരീക്ഷണ മുതലാളിത്തം' (Surveillance Capitalism) എന്ന സിദ്ധാന്തത്തിന്റെ ഏറ്റവും മൂർത്തവും സമകാലികവുമായ പ്രായോഗിക രൂപം നമുക്ക് കാണാൻ സാധിക്കും. മനുഷ്യന്റെ അനുഭവങ്ങളെയും പെരുമാറ്റങ്ങളെയും സൗജന്യ അസംസ്കൃത വസ്തുവായി കണക്കാക്കി, അതിൽ നിന്ന് പ്രവചന ഉൽപ്പന്നങ്ങൾ (prediction products) നിർമ്മിച്ച് വിപണനം ചെയ്യുന്ന പുതിയ സാമ്പത്തിക ക്രമത്തിന്റെ ഏറ്റവും സമർത്ഥമായ അവതാരമാണ് നാനോ ബനാന. ഉപയോക്താവ് നൽകുന്ന ഓരോ പ്രോംപ്റ്റും, തിരഞ്ഞെടുക്കുന്ന ഓരോ ശൈലിയും, സംതൃപ്തി രേഖപ്പെടുത്തുന്ന ഓരോ ചിത്രവും ഒരു 'പെരുമാറ്റ മിച്ചം' (behavioral surplus) ആയി മാറുന്നു. ബോളിവുഡിന്റെ സുവർണ്ണകാലഘട്ടത്തെ അനുസ്മരിപ്പിക്കുന്ന റെട്രോ പോർട്രെയ്റ്റുകളും, പരമ്പരാഗത സാരിയുടെ ചാരുത കൈവിട്ടുപോകാത്ത 'എഐ സാരി' ചിത്രങ്ങളും, വിദേശ നാടുകളിലെ സ്വപ്നസുന്ദരമായ പശ്ചാത്തലങ്ങളിൽ സ്വയം പ്രതിഷ്ഠിക്കുന്ന ഡിജിറ്റൽ സെൽഫികളും, യാഥാർത്ഥ്യബോധമുള്ള മിനിയേച്ചർ ഫിഗറിനുകളുമെല്ലാം സാംസ്കാരിക നൊസ്റ്റാൾജിയയുടെയും സാങ്കേതിക ആധുനികതയുടെയും വിചിത്രമായ ഒരു സങ്കലനം മാത്രമല്ല, മറിച്ച് ഉപയോക്താവിന്റെ ആഴത്തിലുള്ള ആഗ്രഹങ്ങളെയും, സാമൂഹിക അഭിലാഷങ്ങളെയും, സാംസ്കാരിക പക്ഷപാതങ്ങളെയും മനസ്സിലാക്കാനുള്ള ഡാറ്റാ പോയിന്റുകൾ കൂടിയാണ്. അതായത് ഒരു വ്യക്തി '80കളിലെ ബോളിവുഡ് താരം' എന്ന പ്രോംപ്റ്റ് തിരഞ്ഞെടുക്കുമ്പോൾ, അത് കേവലം ഒരു ചിത്രനിർമ്മിതിയല്ല, മറിച്ച് ആ വ്യക്തിയുടെ പ്രായം, സാംസ്കാരിക താൽപ്പര്യങ്ങൾ, നൊസ്റ്റാൾജിയ എന്നിവയെക്കുറിച്ചുള്ള വിലപ്പെട്ട വിവരമാണ് കമ്പനിക്ക് നൽകുന്നത്.
ഈ സൃഷ്ടിപരമായ പ്രകടനങ്ങളുടെ അടിയൊഴുക്കിൽ, ബയോമെട്രിക് ഡാറ്റയുടെ വൻതോതിലുള്ള ശേഖരണവും പ്രോസസ്സിംഗും അശ്രാന്തമായി നടക്കുന്നു. 'കാരക്ടർ കൺസിസ്റ്റൻസി', 'മൾട്ടി-ഇമേജ് ഫ്യൂഷൻ', 'പ്രോംപ്റ്റ് ബേസ്ഡ് എഡിറ്റിംഗ്' തുടങ്ങിയ സാങ്കേതിക നൂതനത്വങ്ങൾ ഉപയോക്താക്കൾക്ക് അഭൂതപൂർവമായ സൃഷ്ടിപരമായ നിയന്ത്രണം വാഗ്ദാനം ചെയ്യുമ്പോൾ, അവരുടെ മുഖഭാവങ്ങളുടെയും ശാരീരിക സവിശേഷതകളുടെയും ഏറ്റവും സൂക്ഷ്മമായ വിശദാംശങ്ങൾ പോലും അൽഗോരിതങ്ങളാൽ വിശകലനം ചെയ്യപ്പെടുകയും, വർഗ്ഗീകരിക്കപ്പെടുകയും, ലേബൽ ചെയ്യപ്പെടുകയും, അനന്തമായി സംഭരിക്കപ്പെടുകയും ചെയ്യുന്നു.
ഗൂഗിൾ ഡീപ്മൈൻഡിലെ മൾട്ടിമോഡൽ ജനറേഷൻ ലീഡായ ഡേവിഡ് ഷാരോണിന്റെ പ്രസ്താവന - "ഒരു ഉപയോക്താവ് ഞങ്ങളോട് അവരുടെ അന്വേഷണം പൂർത്തീകരിക്കാൻ ആവശ്യപ്പെടുമ്പോൾ, ഞങ്ങൾ അത് പൂർത്തീകരിക്കാൻ പരമാവധി ശ്രമിക്കുന്നു. ഉപയോക്താവിന്റെ ഉദ്ദേശ്യം എന്താണെന്ന് അനുമാനിക്കാൻ ഞങ്ങൾ ശ്രമിക്കുന്നില്ല" - ഈ നിർവികാരമായ സാങ്കേതിക നിഷ്പക്ഷത, ധാർമ്മിക ഉത്തരവാദിത്തത്തിൽ നിന്നുള്ള ഒരു തന്ത്രപരമായ ഒഴിഞ്ഞുമാറലാണ്. മിഷേൽ ഫൂക്കോയുടെ 'പാനോപ്റ്റിക്കോൺ' സിദ്ധാന്തത്തിലെ അദൃശ്യനായ നിരീക്ഷകന്റെ സാന്നിധ്യം തടവുകാരനിൽ സ്വയം-നിയന്ത്രണം സൃഷ്ടിക്കുന്നതുപോലെ, ഇവിടെ ഉപയോക്താവ്, കൂടുതൽ മികച്ചതും വ്യക്തിഗതവുമായ ഫലങ്ങൾ ലഭിക്കുമെന്ന പ്രതീക്ഷയിൽ, സ്വമേധയാ കൂടുതൽ കൂടുതൽ സ്വകാര്യ ഡാറ്റ സമർപ്പിക്കാൻ പ്രേരിപ്പിക്കപ്പെടുന്നു. അങ്ങനെ, നിയന്ത്രണം ഒരു ബാഹ്യശക്തി അടിച്ചേൽപ്പിക്കുന്നതിന് പകരം, സിസ്റ്റത്തിന്റെ രൂപകൽപ്പനയിലൂടെ ആന്തരികവൽക്കരിക്കപ്പെട്ട ഒരു പ്രക്രിയയായി മാറുന്നു.
നിരീക്ഷണത്തിന്റെ പുതിയ ഘടനകളും ഇന്ത്യൻ യാഥാർത്ഥ്യവും
ബയോമെട്രിക് ഡാറ്റയുടെ ചൂഷണത്തെ കേവലം കോർപ്പറേറ്റ് തലത്തിൽ മാത്രം ഒതുക്കി നിർത്താനാവില്ല. അത് ഭരണകൂട താൽപ്പര്യങ്ങളുമായി ചേരുമ്പോൾ 'ബയോമെട്രിക് കൊളോണിയലിസത്തിന്റെ' പുതിയ രൂപഭാവങ്ങൾ കൈവരിക്കുന്നു. Clearview.ai എന്ന കുപ്രസിദ്ധമായ അമേരിക്കൻ കമ്പനി, മുന്നൂറ് കോടിയിലധികം ഫോട്ടോഗ്രാഫുകൾ സോഷ്യൽ മീഡിയ പ്ലാറ്റ്ഫോമുകളിൽ നിന്നും പൊതു വെബ്സൈറ്റുകളിൽ നിന്നും അനുവാദമില്ലാതെ ശേഖരിച്ച്, ലോകമെമ്പാടുമുള്ള കോടിക്കണക്കിന് വ്യക്തികളുടെ മുഖം തിരിച്ചറിയൽ പ്രൊഫൈലുകൾ നിർമ്മിച്ചത് ഈ പ്രവണതയുടെ ഏറ്റവും ഭീകരമായ ഉദാഹരണമാണ്.
ന്യൂയോർക്ക് ടൈംസിലെ കാശ്മീർ ഹില്ലിന്റെ അന്വേഷണാത്മക പത്രപ്രവർത്തനം വെളിപ്പെടുത്തിയതുപോലെ, ഈ സാങ്കേതികവിദ്യ നിയമപാലകർക്കും സ്വകാര്യ സുരക്ഷാ ഏജൻസികൾക്കും യാതൊരു സുതാര്യതയുമില്ലാതെ വിൽക്കപ്പെടുന്നു. “If you are not paying for it, you’re not the customer; you’re the product being sold.”- എന്ന വാചകം കൂടി ഇവിടെ ചേർത്ത് വായിക്കുമ്പോൾ ഇത് ഡിജിറ്റൽ ഡാറ്റാ അധിഷ്ഠിത ക്യാപിറ്റലിസത്തിന്റെ (data capitalism) പുതിയ മുഖവുമാണ്.
സാങ്കേതിക കമ്പനികൾ “സൗജന്യ സേവനങ്ങൾ” നൽകുന്നുവെന്ന ധാരണ നിലനിൽക്കുമ്പോൾ, യഥാർത്ഥത്തിൽ ഉപയോക്താക്കളാണ് ഉൽപ്പന്നമാകുന്നത്. അവരുടെ ചിത്രങ്ങളും മുഖഭാവങ്ങളും സംസ്കാരപരമായ പ്രതിനിധാനങ്ങളുമെല്ലാം, ഗൂഗിൾ പോലുള്ള സ്ഥാപനങ്ങൾക്ക് വിപണനോചിതമായ ഡാറ്റാസെറ്റുകളായി മാറുന്നു. ഇന്ത്യയിലെ നാനോ ബനാനയുടെ ഉഗ്രപ്രചാരണം ഡിജിറ്റൽ കോളനിവൽക്കരണത്തിന്റെ (digital colonialism) സൂക്ഷ്മ ഉദാഹരണമായി വായിക്കാം - ഇവിടെ സാങ്കേതിക ആധിപത്യം ഗ്ലോബൽ സൗത്ത് രാജ്യങ്ങളിൽ നിന്ന് ഡാറ്റാ സമ്പത്ത് ശേഖരിച്ച് ഗ്ലോബൽ നോർത്ത് കോർപ്പറേറ്റുകളുടെ നിക്ഷേപ മൂല്യമായി പരിവർത്തനം ചെയ്യുന്നു. ഉപയോക്താക്കൾക്ക് ലഭിക്കുന്ന സൗന്ദര്യപരമായ സന്തോഷം അല്ലെങ്കിൽ സൃഷ്ടിപരതയുടെ സ്വാതന്ത്ര്യം, ഈ പശ്ചാത്തലത്തിൽ ഒരു സാമ്പത്തിക ഇടപാടിന്റെ മറവാണ്.
Clearview.ai യുടെ സിഇഒ ഹോവൻ ടോൺ-താറ്റിന്റെ - "ഞങ്ങളുടെ സാങ്കേതികവിദ്യ ജനാധിപത്യ സമൂഹത്തിൽ സ്വകാര്യത എന്ന ആശയം അവസാനിപ്പിക്കും," - എന്ന പ്രഖ്യാപനം ഡിസ്റ്റോപ്പിയൻ ഭാവിയെക്കുറിച്ചുള്ള മുന്നറിയിപ്പല്ല, മറിച്ച് നിലവിൽ സംഭവിച്ചുകൊണ്ടിരിക്കുന്ന യാഥാർത്ഥ്യത്തിന്റെ നഗ്നമായ പ്രഖ്യാപനമായിട്ടാണ് കാണേണ്ടത്.
ജെറമി ബെന്താമിന്റെ യൂട്ടിലിറ്റേറിയൻ പാനോപ്റ്റിക്കോണിൽ നിന്ന് ഫൂക്കോയുടെ അധികാര വിശകലനത്തിലൂടെ സുബോഫിന്റെ നിരീക്ഷണ മുതലാളിത്തത്തിലേക്കുള്ള സൈദ്ധാന്തിക യാത്ര, Clearview.ai പോലുള്ള സംരംഭങ്ങളിലൂടെ ഭയാനകമായ പ്രായോഗിക പൂർണ്ണത കൈവരിക്കുന്നു. PimEyes, FindFace, FaceFirst തുടങ്ങിയ സമാന സേവനങ്ങളുടെ വ്യാപനവും, ചൈനയിലെ SenseTime, Megvii തുടങ്ങിയ കമ്പനികൾ ഉയ്ഗൂർ മുസ്ലീം ന്യൂനപക്ഷത്തെ ലക്ഷ്യമിട്ട് നടത്തുന്ന വംശീയ പ്രൊഫൈലിങ്ങും, ഈ സാങ്കേതികവിദ്യയുടെ ആഗോളപരമായ അപകടങ്ങൾ അടിവരയിടുന്നു.
ഈ ആഗോള പശ്ചാത്തലത്തിൽ ഇന്ത്യൻ സന്ദർഭത്തിന് സവിശേഷവും അതീവ ഗുരുതരവുമായ മാനങ്ങളുണ്ട്. ലോകത്തിലെ ഏറ്റവും വലിയ ബയോമെട്രിക് ഡാറ്റാബേസായ ആധാർ സംവിധാനം നിലനിൽക്കുന്ന ഒരു രാജ്യമാണ് ഇന്ത്യ. നൂറ്റിനാല്പത് കോടി പൗരരുടെ വിരലടയാളം, ഐറിസ് സ്കാൻ, ഫോട്ടോഗ്രാഫ് എന്നിവ ഉൾക്കൊള്ളുന്ന ഈ മഹാസംവിധാനം, ഭരണകൂടത്തിന് പൗരരുടെ മേൽ അഭൂതപൂർവമായ നിരീക്ഷണ ശേഷി നൽകുന്നു. ഈ സാഹചര്യത്തിലേക്കാണ് നാനോ ബനാനയിലൂടെ സ്വമേധയാ സമർപ്പിക്കപ്പെടുന്ന കോടിക്കണക്കിന് പുതിയ, ഉയർന്ന റെസല്യൂഷനുള്ള, വിവിധ ഭാവങ്ങളിലും കോണുകളിലുമുള്ള ഫോട്ടോഗ്രാഫുകൾ ഒഴുകിയെത്തുന്നത്. സർക്കാർ നിയന്ത്രിത ബയോമെട്രിക് ഡാറ്റാബേസുകളും (ആധാർ) കോർപ്പറേറ്റ് നിയന്ത്രിത എഐ മോഡലുകളും (നാനോ ബനാന) തമ്മിൽ ഭാവിയിൽ നടന്നേക്കാവുന്ന ഏതൊരു സംയോജനവും, ജോർജ്ജ് ഓർവെലിന്റെ '1984' എന്ന നോവലിലെ ടോട്ടലിറ്റേറിയൻ നിരീക്ഷണത്തെ പോലും നിഷ്പ്രഭമാക്കുന്ന സാധ്യതകളാണ് തുറന്നിടുന്നത്. ഒരു വ്യക്തിയുടെ ഔദ്യോഗിക തിരിച്ചറിയൽ രേഖയും (ആധാറുമായി ബന്ധിപ്പിച്ച ഫോൺ നമ്പർ വഴി ലോഗിൻ ചെയ്യുമ്പോൾ) അവരുടെ ഡിജിറ്റൽ ലോകത്തെ സർഗ്ഗാത്മക പ്രകടനങ്ങളും (അവരുടെ ഭാവനകൾ, ആഗ്രഹങ്ങൾ, സൗന്ദര്യ സങ്കൽപ്പങ്ങൾ) തമ്മിൽ ബന്ധിപ്പിക്കപ്പെടുമ്പോൾ, ഒരു സമ്പൂർണ്ണ നിരീക്ഷണ സമൂഹത്തിന്റെ (total surveillance society) അടിസ്ഥാന ശിലകളാണ് സ്ഥാപിക്കപ്പെടുന്നത്.
ഇന്ത്യയിലെ സാമൂഹിക യാഥാർത്ഥ്യങ്ങൾ ഈ പ്രശ്നത്തെ കൂടുതൽ സങ്കീർണ്ണമാക്കുന്നു. ജാതി, മതം, വർഗ്ഗം, ലിംഗം തുടങ്ങിയ സാമൂഹിക ശ്രേണീകരണങ്ങൾ ഡിജിറ്റൽ ലോകത്തും പ്രതിഫലിക്കുന്നു. നാനോ ബനാന പോലുള്ള ഉപകരണങ്ങൾ ഉപരിവർഗ്ഗ സൗന്ദര്യ സങ്കൽപ്പങ്ങളെയും വെളുത്ത നിറത്തോടുള്ള ആഭിമുഖ്യത്തെയും പുനരുൽപ്പാദിപ്പിക്കാൻ സാധ്യതയുണ്ട്. ഉദാഹരണത്തിന്, 'സുന്ദരിയായ ഇന്ത്യൻ സ്ത്രീ' എന്ന് പ്രോംപ്റ്റ് നൽകുമ്പോൾ AI നിർമ്മിക്കുന്ന ചിത്രങ്ങൾ പലപ്പോഴും സവർണ്ണമായ സൗന്ദര്യ സങ്കൽപ്പങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ളതായിരിക്കും. ഇത് പാർശ്വവൽക്കരിക്കപ്പെട്ട സമൂഹങ്ങളുടെ പ്രാതിനിധ്യത്തെ ഇല്ലാതാക്കുകയും നിലവിലുള്ള സാമൂഹിക മുൻവിധികളെ ഡിജിറ്റൽ രൂപത്തിൽ ഉറപ്പിക്കുകയും ചെയ്യുന്നു. കൂടാതെ, സാമൂഹികമായ Aufstieg (മുകളിലേക്കുള്ള ചലനം) ആഗ്രഹിക്കുന്ന മധ്യവർഗ്ഗ, താഴ്ന്ന മധ്യവർഗ്ഗ ഉപയോക്താക്കൾ, തങ്ങളെത്തന്നെ യൂറോപ്യൻ പശ്ചാത്തലങ്ങളിലോ ആഡംബര വേഷങ്ങളിലോ ചിത്രീകരിക്കുന്നത് അവരുടെ അഭിലാഷങ്ങളുടെ പ്രതിഫലനമാണ്. ഈ അഭിലാഷങ്ങളെ ഡാറ്റയായി ശേഖരിക്കുന്നതിലൂടെ, കമ്പനികൾക്ക് കൂടുതൽ ലക്ഷ്യം വെച്ചുള്ള പരസ്യങ്ങളും ഉൽപ്പന്നങ്ങളും നൽകാൻ സാധിക്കുന്നു. ഇത് ഉപഭോക്തൃ സംസ്കാരത്തെ കൂടുതൽ ആഴത്തിൽ സമൂഹത്തിൽ വേരൂന്നാൻ സഹായിക്കുന്നു.
ഇന്ത്യയുടെ 2023-ലെ ഡിജിറ്റൽ വ്യക്തിഗത ഡാറ്റാ സംരക്ഷണ നിയമം (DPDP Act) ഈ സാഹചര്യത്തിൽ തികച്ചും അപര്യാപ്തമാണ്. 'കരുതപ്പെടുന്ന സമ്മതം' (Deemed consent) പോലുള്ള അവ്യക്തമായ വ്യവസ്ഥകളും, ദേശീയ സുരക്ഷയുടെ പേരിൽ ഭരണകൂട ഏജൻസികൾക്ക് നൽകുന്ന വ്യാപകമായ ഇളവുകളും, ഈ നിയമത്തെ പല്ലുകൊഴിഞ്ഞ സിംഹത്തിന് തുല്യമാക്കുന്നു. സ്വകാര്യതയെ ഒരു മൗലികാവകാശമായി സുപ്രീം കോടതി അംഗീകരിച്ച രാജ്യത്ത്, ആ അവകാശത്തെ സംരക്ഷിക്കാൻ പര്യാപ്തമായ നിയമസംവിധാനങ്ങൾ ഇല്ലാത്തത് കോർപ്പറേറ്റുകൾക്കും ഭരണകൂടത്തിനും പൗരരുടെ ഡിജിറ്റൽ ജീവിതത്തിൽ അനിയന്ത്രിതമായി ഇടപെടാൻ അവസരം നൽകുന്നു.
സാങ്കേതിക പ്രതിരോധവും അതിന്റെ പരിമിതികളും
നിരീക്ഷണ മുതലാളിത്തത്തിന്റെ ഈ സർവ്വവ്യാപിയായ ഘടനയ്ക്കെതിരെ പ്രതിരോധത്തിന്റെ പുതിയ രൂപങ്ങൾ ഉയർന്നുവരുന്നുണ്ട്. ഷിക്കാഗോ സർവകലാശാലയിലെ SAND ലാബിൽ പ്രൊഫസർ ബെൻ ഷാവോയുടെ നേതൃത്വത്തിൽ വികസിപ്പിച്ച Fawkes എന്ന 'ഇമേജ് ക്ലോക്കിംഗ്' സാങ്കേതികവിദ്യ, ഇതിന്റെ ഏറ്റവും മികച്ച ഉദാഹരണമാണ്. 'അഡ്വേഴ്സറിയൽ എക്സാംപിൾസ്' (adversarial examples) എന്ന മെഷീൻ ലേണിംഗ് സിദ്ധാന്തത്തെ അടിസ്ഥാനമാക്കി, മനുഷ്യന്റെ കണ്ണുകൾക്ക് തിരിച്ചറിയാനാവാത്ത രീതിയിൽ ചിത്രങ്ങളിലെ പിക്സലുകളിൽ സൂക്ഷ്മമായ മാറ്റങ്ങൾ വരുത്തി, മുഖം തിരിച്ചറിയൽ അൽഗോരിതങ്ങളെ തെറ്റിദ്ധരിപ്പിക്കുകയാണ് Fawkes ചെയ്യുന്നത്. ഇത് നിങ്ങളുടെ യഥാർത്ഥ മുഖവുമായി അപ്ലോഡ് ചെയ്ത ചിത്രത്തെ ബന്ധിപ്പിക്കുന്നതിൽ നിന്ന് AI മോഡലുകളെ തടയുന്നു. Microsoft Azure Face API, Amazon Rekognition, Face++ തുടങ്ങിയ ലോകോത്തര സംവിധാനങ്ങൾക്കെതിരെ Fawkes നൂറു ശതമാനം ഫലപ്രദമാണെന്ന് പ്രാരംഭ പരീക്ഷണങ്ങൾ തെളിയിച്ചെങ്കിലും, Microsoft Azure തങ്ങളുടെ സിസ്റ്റത്തിൽ വരുത്തിയ ഒരു ബാക്കെൻഡ് അപ്ഡേറ്റിലൂടെ Fawkes-ന്റെ ഫലപ്രാപ്തി കുറച്ചത്, സ്വകാര്യതാ സംരക്ഷണവും കോർപ്പറേറ്റ് നിരീക്ഷണവും തമ്മിലുള്ള അവസാനിക്കാത്ത ആയുധ മത്സരത്തെ (arms race)യാണ് സൂചിപ്പിക്കുന്നത്. ഈ മത്സരം, ഭീമമായ സാമ്പത്തിക, മാനുഷിക വിഭവശേഷിയുള്ള ടെക് കമ്പനികൾക്ക് എപ്പോഴും മുൻതൂക്കം നൽകുന്നു.
ഈ സമവാക്യത്തിന്റെ മറുവശത്ത്, ഗൂഗിളിന്റെ SynthID പോലുള്ള സാങ്കേതികവിദ്യകൾ സ്ഥാനം പിടിക്കുന്നു. AI ഉപയോഗിച്ച് നിർമ്മിച്ച ചിത്രങ്ങളെയും വീഡിയോകളെയും തിരിച്ചറിയാൻ സഹായിക്കുന്ന അദൃശ്യമായ ഒരു ഡിജിറ്റൽ വാട്ടർമാർക്കിംഗ് സംവിധാനമാണിത്. എഡിറ്റിംഗ്, ക്രോപ്പിംഗ്, കംപ്രഷൻ തുടങ്ങിയ മാറ്റങ്ങളെ അതിജീവിക്കാൻ ശേഷിയുള്ള ഈ സാങ്കേതികവിദ്യ, തെറ്റായ വിവരങ്ങളുടെ വ്യാപനം തടയാനും സുതാര്യത ഉറപ്പാക്കാനും സഹായിക്കുമെന്ന വാദത്തോടെയാണ് അവതരിപ്പിക്കപ്പെടുന്നത്. എന്നാൽ, ഇത് ഉള്ളടക്കത്തെ ട്രാക്ക് ചെയ്യാനും, സെൻസർ ചെയ്യാനും, നിയന്ത്രിക്കാനുമുള്ള ശക്തമായ ഒരു ഉപകരണം കൂടിയായി മാറാനുള്ള സാധ്യതയുണ്ട്. ബ്രൂണോ ലാത്തൂറിന്റെ ആക്ടർ-നെറ്റ്വർക്ക് സിദ്ധാന്തത്തിന്റെ (Actor-Network Theory) വെളിച്ചത്തിൽ വിശകലനം ചെയ്യുമ്പോൾ, Fawkes-ഉം SynthID-ഉം കേവലം നിഷ്ക്രിയ ഉപകരണങ്ങളല്ല, മറിച്ച് സാമൂഹിക-സാങ്കേതിക നെറ്റ്വർക്കുകളിലെ സജീവമായ ഏജന്റുമാരാണ് (actors). അവ നിയമങ്ങളെയും സാമൂഹിക മര്യാദകളെയും, അധികാര ഘടനകളെയും പുനർനിർമ്മിക്കാൻ കഴിവുള്ളവയാണ്.
എന്നാൽ, ഈ സാങ്കേതിക പ്രതിരോധ മാർഗ്ഗങ്ങൾക്കെല്ലാം അടിസ്ഥാനപരമായ ഒരു പരിമിതിയുണ്ട്: അവയെല്ലാം വ്യക്തിഗത തലത്തിലുള്ള പരിഹാരങ്ങളാണ്. നിരീക്ഷണ മുതലാളിത്തം ഒരു വ്യവസ്ഥാപരമായ പ്രശ്നമായിരിക്കെ, വ്യക്തിഗത പരിഹാരങ്ങൾ ഒരു താൽക്കാലിക ആശ്വാസം മാത്രമാണ് നൽകുന്നത്. സ്വകാര്യത സംരക്ഷിക്കേണ്ട ഭാരം പൂർണ്ണമായും ഉപയോക്താവിന്റെ ചുമലിൽ വെച്ചുകൊടുക്കുന്ന ഈ സമീപനം, യഥാർത്ഥ പ്രശ്നത്തിൽ നിന്ന് ശ്രദ്ധ തിരിക്കാൻ മാത്രമേ സഹായിക്കൂ. യഥാർത്ഥ പ്രതിരോധം സാങ്കേതികവിദ്യയിൽ ഒതുങ്ങുന്നില്ല. അത് കൂട്ടായ രാഷ്ട്രീയ പ്രവർത്തനത്തിലൂടെയും നയരൂപീകരണത്തിലൂടെയും മാത്രമേ സാധ്യമാകൂ. 'ഡാറ്റാ യൂണിയനുകൾ' (Data Unions) അഥവാ 'ഡാറ്റാ ട്രസ്റ്റുകൾ' (Data Trusts) പോലുള്ള ആശയങ്ങൾ ഇവിടെ പ്രസക്തമാകുന്നു. ഉപയോക്താക്കൾക്ക് തങ്ങളുടെ ഡാറ്റയുടെ മേൽ കൂട്ടായ ഉടമസ്ഥാവകാശവും നിയന്ത്രണവും നൽകുന്ന, അതുവഴി ടെക് കമ്പനികളുമായി വിലപേശാൻ ശേഷിയുള്ള സംഘടനകളായി ഇവയ്ക്ക് പ്രവർത്തിക്കാൻ കഴിയും. എന്നാൽ ഇത്തരം ബദൽ സംവിധാനങ്ങൾ കെട്ടിപ്പടുക്കുന്നതിന് ശക്തമായ രാഷ്ട്രീയ ഇച്ഛാശക്തിയും ജനകീയ പങ്കാളിത്തവും ആവശ്യമാണ്.
ഡിജിറ്റൽ ഭാവിയുടെ പുനർരചന
നാനോ ബനാന പ്രതിനിധാനം ചെയ്യുന്ന സാങ്കേതിക-സാമൂഹിക പ്രതിഭാസം, വാൾട്ടർ ബെഞ്ചമിൻ ഒരു നൂറ്റാണ്ട് മുൻപ് 'മെക്കാനിക്കൽ റീപ്രൊഡക്ഷന്റെ യുഗത്തിലെ കലാസൃഷ്ടി' എന്ന പ്രബന്ധത്തിൽ ഉന്നയിച്ച ചോദ്യങ്ങളെ ഡിജിറ്റൽ യുഗത്തിലേക്ക് വികസിപ്പിക്കുന്നു. കലാസൃഷ്ടിയുടെ 'ഓറ' (aura) നഷ്ടപ്പെടുന്നതിനെക്കുറിച്ച് ബെഞ്ചമിൻ ആശങ്കപ്പെട്ടെങ്കിൽ, ഇന്ന് നാം കാണുന്നത് സ്വത്വത്തിന്റെ തന്നെ അനന്തമായ പുനരുൽപ്പാദനവും, അതിന്റെ ഫലമായി ആധികാരികതയുടെ (authenticity) പൂർണ്ണമായ തിരോധാനവുമാണ്. ജീൻ ബോദ്രിയാറിന്റെ 'സിമുലാക്രവും സിമുലേഷനും' (Simulacra and Simulation) എന്ന സിദ്ധാന്തം ഇവിടെ കൂടുതൽ പ്രസക്തമാകുന്നു. നാനോ ബനാനയിൽ നാം നിർമ്മിക്കുന്നത് യാഥാർത്ഥ്യത്തിന്റെ പ്രതിഫലനങ്ങളല്ല, മറിച്ച് യാഥാർത്ഥ്യവുമായി ഒരു ബന്ധവുമില്ലാത്ത, എന്നാൽ യാഥാർത്ഥ്യത്തേക്കാൾ ആകർഷകമായ 'ഹൈപ്പർ റിയൽ' ചിത്രങ്ങളാണ്. യാഥാർത്ഥ്യവും അതിന്റെ പ്രതിനിധാനവും തമ്മിലുള്ള വ്യത്യാസം ഇല്ലാതാകുന്ന ഈ ലോകത്ത്, നമ്മുടെ ഡിജിറ്റൽ സ്വത്വങ്ങൾ നമ്മുടെ ഭൗതിക സ്വത്വങ്ങളെക്കാൾ പ്രാധാന്യമർഹിക്കുന്നതായി മാറുന്നു.
ഇന്ത്യയുടെ സവിശേഷമായ സാംസ്കാരിക-സാങ്കേതിക ഭൂപ്രകൃതിയിൽ, നാനോ ബനാന പോസ്റ്റ്കൊളോണിയൽ സ്വത്വനിർമ്മിതിയുടെയും നവകൊളോണിയൽ ഡാറ്റാ ചൂഷണത്തിന്റെയും അപകടകരമായ ഒരു സന്ധിയിലാണ് നിലകൊള്ളുന്നത്. പരമ്പരാഗത സാംസ്കാരിക ചിഹ്നങ്ങളെ AI മോഡലുകളിലൂടെ പുനർസൃഷ്ടിക്കുന്നത്, ഹോമി ഭാഭയുടെ 'മിമിക്രി' (mimicry) എന്ന സങ്കൽപ്പത്തിന്റെ ഡിജിറ്റൽ അവതാരമായി വിമർശനാത്മകമായി വായിക്കാം. പാശ്ചാത്യ സാങ്കേതികവിദ്യയുടെ ചട്ടക്കൂടിനുള്ളിൽ നിന്നുകൊണ്ട് ദേശീയ സാംസ്കാരിക പ്രതീകങ്ങളെ പുനർനിർമ്മിക്കുന്ന ഈ പ്രക്രിയ, സാംസ്കാരിക സാമ്രാജ്യത്വത്തിന്റെ ഏറ്റവും സൂക്ഷ്മവും വശീകരിക്കുന്നതുമായ രൂപമായി മാറാനുള്ള സാധ്യത ഉൾക്കൊള്ളുന്നു.
അവസാനമായി, നാനോ ബനാനയുടെ അഭൂതപൂർവമായ ഇന്ത്യൻ സ്വീകാര്യത, സാങ്കേതികവിദ്യയോടുള്ള നമ്മുടെ സമൂഹത്തിന്റെ വിമർശനരഹിതമായ ആരാധനയെയും അതിന്റെ പ്രത്യാഘാതങ്ങളെക്കുറിച്ചുള്ള കൂട്ടായ അജ്ഞതയെയുമാണ് തുറന്നുകാട്ടുന്നത്. ഈ ഉത്സാഹത്തിന്റെ അന്ധകാരമയമായ പരിണിതഫലം, നാം പാനോപ്റ്റിക്കോണിന്റെ സ്വയംഭരണ തടവുകാരായി സ്വമേധയാ മാറുന്നു എന്നതാണ്. നമ്മുടെ മുഖങ്ങൾ, ഭാവങ്ങൾ, സ്വപ്നങ്ങൾ, ഓർമ്മകൾ എന്നിവയെല്ലാം ഡാറ്റാ പോയിന്റുകളായി അദൃശ്യമായി രൂപാന്തരപ്പെടുമ്പോൾ, മാക്സ് വെബറിന്റെ 'യുക്തിയുടെ ഇരുമ്പ് കൂട്' (iron cage of rationality) ഡിജിറ്റൽ രൂപത്തിൽ ഭീകരമായി പുനർജനിക്കുകയാണ്. ഈ കൂട്ടിൽ നിന്ന് പുറത്തുകടക്കാനുള്ള വഴികൾ കേവലം സാങ്കേതികമല്ല, മറിച്ച് അഗാധമായി രാഷ്ട്രീയവും സാംസ്കാരികവുമാണ്.
Fawkes പോലുള്ള ഉപകരണങ്ങൾ വ്യക്തിഗത പ്രതിരോധത്തിന് താൽക്കാലികമായി സഹായകമായേക്കാം, എന്നാൽ കൂട്ടായ രാഷ്ട്രീയ പ്രവർത്തനവും, ഡാറ്റാ യൂണിയനുകൾ പോലുള്ള സംഘടിത വിലപേശൽ സംവിധാനങ്ങളും, ശക്തമായ നിയമനിർമ്മാണവും ഇല്ലാതെ നിരീക്ഷണ മുതലാളിത്തത്തെ ഫലപ്രദമായി പ്രതിരോധിക്കാനാവില്ല. അന്റോണിയോ ഗ്രാംഷിയുടെ സാംസ്കാരിക ആധിപത്യ (cultural hegemony) സിദ്ധാന്തം നമ്മെ ഓർമ്മിപ്പിക്കുന്നതുപോലെ, സാങ്കേതിക നിയന്ത്രണം സ്വാഭാവികവും അഭികാമ്യവുമാണെന്ന പൊതുബോധം നിർമ്മിക്കപ്പെട്ടതിലൂടെയാണ് ഈ ചൂഷണം സാധ്യമാകുന്നത്. ആ പൊതുബോധത്തെ ചോദ്യം ചെയ്യുക എന്നതാണ് ഏറ്റവും വലിയ രാഷ്ട്രീയ പ്രവർത്തനം.
സൃഷ്ടിപരമായ സ്വാതന്ത്ര്യത്തിനും വ്യക്തിഗത സ്വകാര്യതയ്ക്കും ഇടയിലുള്ള ഒരു അസാധ്യമായ തിരഞ്ഞെടുപ്പാണ് നാനോ ബനാന നമ്മുടെ മുൻപിൽ വെക്കുന്നത്. ഈ വൈരുദ്ധ്യാത്മക ദ്വന്ദ്വത്തെ അതിജീവിക്കുന്നതിന്, സാങ്കേതികവിദ്യയുടെ സമൂലമായ ജനാധിപത്യവൽക്കരണവും, ഡാറ്റാ പരമാധികാരത്തിന്റെ വിപ്ലവകരമായ പുനർനിർവചനവും, നിരീക്ഷണ മുതലാളിത്തത്തിന് സാമൂഹ്യാധിഷ്ഠിത ബദൽ സാമ്പത്തിക മാതൃകകളുടെ സൃഷ്ടിയും അനിവാര്യമാണ്. ഇതിന് 'വിമർശനാത്മക ഡിജിറ്റൽ സാക്ഷരത' (critical digital literacy) വിദ്യാഭ്യാസത്തിന്റെ ഭാഗമാക്കുക, അൽഗോരിതം സുതാര്യതയും ഉത്തരവാദിത്തവും (algorithmic transparency and accountability) നിയമപരമായി ഉറപ്പാക്കുക, കോർപ്പറേറ്റ് നിയന്ത്രണങ്ങളില്ലാത്ത ഓപ്പൺ സോഴ്സ് എഐ മോഡലുകളെ പ്രോത്സാഹിപ്പിക്കുക തുടങ്ങിയ മൂർത്തമായ നടപടികൾ ആവശ്യമാണ്. ടെക്നോ-ഡിസ്റ്റോപ്പിയയും ടെക്നോ-യൂട്ടോപ്പിയയും തമ്മിലുള്ള ഈ നിർണ്ണായക ഘട്ടത്തിൽ, നമ്മുടെ കൂട്ടായ തിരഞ്ഞെടുപ്പുകളും വിമർശനാത്മകമായ ഇടപെടലുകളും മാത്രമായിരിക്കും മനുഷ്യരാശിയുടെ ഡിജിറ്റൽ ഭാവി നിർണ്ണയിക്കുക.