ആരോഗ്യരംഗത്തേക്കുള്ള ലാർജ് ലാംഗ്വേജ് മോഡലുകളുടെ (LLMs) കടന്നുവരവ് സാങ്കേതികവിദ്യാധിഷ്ഠിതമായ അതിരുകവിഞ്ഞ ശുഭാപ്തിവിശ്വാസത്തിന് (techno-optimism) കാരണമായിട്ടുണ്ട്. ജനറേറ്റീവ് AI-യെ വരുംകാലത്തെ 'ഡിജിറ്റൽ ഡോക്ടറായി' വാഴ്ത്തുന്ന ഈ ആഖ്യാനം, അടിസ്ഥാനപരമായി ക്ലിനിക്കൽ മെഡിസിന്റെ സങ്കീർണ്ണമായ പ്രായോഗിക യാഥാർത്ഥ്യങ്ങളെ വിസ്മരിക്കുന്ന 'കമ്പ്യൂട്ടേഷണൽ എപിസ്റ്റമോളജി'യെയാണ് (computational epistemology) ആശ്രയിക്കുന്നത്. ഇത്തരമൊരു പശ്ചാത്തലത്തിൽ, ജനറേറ്റീവ് AI-യുടെ പ്രസക്തിയെയും അതിനുള്ള പരിമിതികളെയും വസ്തുനിഷ്ഠമായി വിലയിരുത്തേണ്ടത് അനിവാര്യമാണ്.
എന്നാൽ ഈ ലേഖനം ജനറേറ്റീവ് AI സാങ്കേതികവിദ്യയെ പൂർണ്ണമായി തള്ളിക്കളയുന്നില്ല; നിലവിലെ സാങ്കേതിക ചട്ടക്കൂടുകൾക്കകത്ത് (Current Technical Framework) ആരോഗ്യരംഗത്ത് AI-യ്ക്കുള്ള ഘടനാപരമായ പരിമിതികളെയും, ക്ലിനിക്കൽ മെഡിസിനിൽ മനുഷ്യ ഡോക്ടർക്കുള്ള അനിവാര്യതയെയും ജ്ഞാനശാസ്ത്രപരമായും ദാർശനികമായും പരിശോധിക്കുകയാണ് ഇവിടെ ചെയ്യുന്നത്- ഒരു തർക്കമറ്റ തെളിവായിട്ടല്ല, മറിച്ച്, ദാർശനിക നിലപാടായി; ഇതിനോട് വിയോജിക്കുന്ന ഫങ്ഷണലിസ്റ്റ് വീക്ഷണങ്ങളും ദർശനശാസ്ത്രത്തിൽ നിലവിലുണ്ട്.
ഈ പരിമിതി പ്രധാനമായും AI-യുടെ ഇപ്പോഴത്തെ സാങ്കേതിക ശേഷിക്കുറവിലല്ല, മറിച്ച്, അതിന്റെ ജ്ഞാനശാസ്ത്രപരവും നൈതികവുമായ ഘടനയിലാണ് (epistemic and ethical constitution) സ്ഥിതിചെയ്യുന്നത്. കേവലം ഡേറ്റാ പാറ്റേണുകളെയും സ്റ്റാറ്റിസ്റ്റിക്കൽ സാധ്യതകളെയും മാത്രം അടിസ്ഥാനമാക്കി പ്രവർത്തിക്കുന്ന ഒരു അൽഗോരിതത്തിന്, മനുഷ്യന്റെ ആരോഗ്യത്തെ നിർണ്ണയിക്കുന്ന സങ്കീർണ്ണമായ സാമൂഹിക- സാമ്പത്തിക- പരിസ്ഥിതി ഘടകങ്ങളെ (Social Determinants of Health) പൂർണ്ണമായി ഉൾക്കൊള്ളാൻ കഴിയില്ല. AI-യ്ക്കും മനുഷ്യ ഡോക്ടർക്കും ഇടയിലുള്ള ഈ വ്യത്യാസം എവിടെയാണ് വേർതിരിയുന്നത് എന്ന് പരിശോധിക്കേണ്ടതുണ്ട്.
വിവരങ്ങളും (Information) ജ്ഞാനവും (Knowledge) തമ്മിലുള്ള അന്തരം ലളിതമായി ഒരുദാഹരണത്തിലൂടെ ഇങ്ങനെ പറയാം: ലോകത്തെ ഏറ്റവും ഉയരം കൂടിയ പർവ്വതം ഏതെന്ന് അറിയുന്നത് ഒരു വിവരമാണ് (Information); എന്നാൽ ആ പർവ്വതം എന്തുകൊണ്ട് അത്തരത്തിൽ രൂപപ്പെട്ടു എന്നതിന്റെ ഭൗമശാസ്ത്രപരമായ സങ്കീർണ്ണതകൾ മനസ്സിലാക്കുന്നത് ജ്ഞാനമാണ് (Knowledge).
AI ഇന്ന് നൽകുന്നത് സമാനമായ 'വിവരങ്ങളുടെ' ഒരു മഹാസാഗരമാണ്. എന്നാൽ ഇവിടെ ഒരു സൂക്ഷ്മമായ കാര്യം കൂടിയുണ്ട്: AI ഉത്പാദിപ്പിക്കുന്നത് സ്വാഭാവികമെന്ന് തോന്നുന്ന ടെക്സ്റ്റ് ആണ്; അത് യഥാർത്ഥ വിവരമാണോ അതോ കെട്ടിച്ചമച്ച ഹാലൂസിനേഷനാണോ എന്ന് സിസ്റ്റത്തിന് സ്വയം വേർതിരിക്കാനാവില്ല.
AI ഇന്ന് നൽകുന്നത് സമാനമായ 'വിവരങ്ങളുടെ' ഒരു മഹാസാഗരമാണ്. എന്നാൽ ഇവിടെ ഒരു സൂക്ഷ്മമായ കാര്യം കൂടിയുണ്ട്: AI ഉത്പാദിപ്പിക്കുന്നത് സ്വാഭാവികമെന്ന് തോന്നുന്ന ടെക്സ്റ്റ് (plausible text) ആണ്; അത് യഥാർത്ഥ വിവരമാണോ (true) അതോ കെട്ടിച്ചമച്ച ഹാലൂസിനേഷനാണോ (false) എന്ന് സിസ്റ്റത്തിന് സ്വയം വേർതിരിക്കാനാവില്ല. ഇവിടെയാണ് ഒരു മനുഷ്യഡോക്ടറുടെ മൗലികമായ പങ്ക് പ്രസക്തമാകുന്നത്. രോഗിയെ വെറുമൊരു 'ഡേറ്റാ പോയിന്റ്' ആയി ചുരുക്കാതെ, സ്വന്തം സഹജീവിയായി തിരിച്ചറിഞ്ഞ്, രോഗിക്കൊപ്പംനിന്ന് അറിവിനെ സഹനിർമ്മിക്കാനുള്ള (co-construct) പ്രായോഗിക ജ്ഞാനമാണ് ഡോക്ടറെ വ്യതിരിക്തനാക്കുന്നത്. കേവല അൽഗോരിതങ്ങൾക്ക് അപ്രാപ്യമായ ഈ ബോധവും സഹാനുഭൂതിയുമാണ് ക്ലിനിക്കൽ മെഡിസിനിൽ മനുഷ്യനായ ഡോക്ടർക്ക് ജ്ഞാനശാസ്ത്രപരമായ പ്രാമാണികത (epistemic authority) നൽകുന്നത്.
ഈ മാനുഷികവും സാമൂഹികവുമായ അറിവില്ലായ്മയ്ക്ക് പുറമേ, ഹാലൂസിനേഷൻ (Hallucination), അൽഗോരിതമിക് ബയസ് (algorithmic bias), സന്ദർഭമില്ലായ്മ എന്നീ സാങ്കേതിക പരിമിതികളും AI-യെ ഒരു സ്വയംഭരണ ക്ലിനിക്കൽ സംവിധാനമാക്കുന്നതിൽ നിന്ന് തടയുന്നു. അതിനാൽ, ജനറേറ്റീവ് AI-യെ സ്വയംഭരണാധികാരമുള്ള ഒരു ക്ലിനിക്കൽ ഏജന്റായി കാണുന്നതിനുപകരം, മനുഷ്യ മേൽനോട്ടത്തിന് കീഴിൽ വൈദ്യശാസ്ത്രത്തിന്റെ അടിസ്ഥാന സൗകര്യങ്ങളെ സഹായിക്കുന്ന ഒരു ഉപകരണമായി (infrastructural utility) മാത്രം പരിമിതപ്പെടുത്തേണ്ടതുണ്ട്.
കമ്പ്യൂട്ടേഷണൽ എപിസ്റ്റമോളജിയും
AI-യുടെ ക്ലിനിക്കൽ പരിമിതികളും
ഒരു AI മോഡൽ എങ്ങനെയാണ് മെഡിക്കൽ വിവരങ്ങൾ കൈകാര്യം ചെയ്യുന്നത് എന്ന് മനസ്സിലാക്കാൻ അതിന്റെ സാങ്കേതികവും ജ്ഞാനശാസ്ത്രപരവുമായ ഘടന പരിശോധിക്കേണ്ടതുണ്ട്. എൽ.എ.എമ്മുകൾക്ക് (LLMs) ജീവശാസ്ത്രത്തെക്കുറിച്ചോ, രോഗശരീരശാസ്ത്രത്തെക്കുറിച്ചോ (Pathophysiology), അല്ലെങ്കിൽ മനുഷ്യന്റെ വേദനകളെക്കുറിച്ചോ യാതൊരുവിധ അസ്തിത്വപരമായ ബോധ്യവുമില്ല (ontological grasp). അവ ഇന്റർനെറ്റിലെ കോടിക്കണക്കിന് മെഡിക്കൽ പുസ്തകങ്ങൾ, ക്ലിനിക്കൽ ജേണലുകൾ, ആരോഗ്യസംബന്ധിയായ മറ്റ് വിവരശേഖരങ്ങൾ (Health care databases) എന്നിവ വിശകലനം ചെയ്ത് പരിശീലിപ്പിക്കപ്പെട്ട, ഉന്നതതലത്തിലുള്ള 'പ്രൊബബിലിറ്റി എൻജിനുകൾ' (Probability Engines) മാത്രമാണ്. ഈ എൻജിൻ എങ്ങനെയാണ് ഒരു ക്ലിനിക്കൽ വാക്യത്തെ കൈകാര്യം ചെയ്യുന്നത് എന്ന് ഘട്ടംഘട്ടമായി പരിശോധിക്കാം.
നമ്മൾ ഒരു രോഗലക്ഷണം AI-യ്ക്കുമുന്നിൽ നൽകുമ്പോൾ, അത് ആ ക്ലിനിക്കൽ വാക്യത്തെ നേരിട്ടല്ല വിശകലനം ചെയ്യുന്നത്. പകരം, ആദ്യഘട്ടമായി ആ വാക്യത്തെ ചെറിയ കഷ്ണങ്ങളായോ വാക്കുകളുടെ ഭാഗങ്ങളായോ മുറിച്ചെടുക്കുന്നു; ഈ പ്രക്രിയയെയാണ് 'ടോക്കണൈസേഷൻ' (Tokenization) എന്നുവിളിക്കുന്നത്. ഇങ്ങനെ വേർതിരിക്കുന്ന ഓരോ കഷ്ണവും ഓരോ 'ടോക്കൺ' (Token) ആണ്. ഇവിടെ ശ്രദ്ധിക്കേണ്ട മറ്റൊരു കാര്യമുണ്ട്: ഓരോ വാക്കും ഓരോ ടോക്കണായി വിഭജിക്കപ്പെടണമെന്നില്ല. സങ്കീർണ്ണമായ മെഡിക്കൽ വാക്കുകളെ AI മോഡലുകൾ പലപ്പോഴും അർത്ഥരഹിതമായ ഒന്നിലധികം കഷ്ണങ്ങളായി മുറിച്ചേക്കാം, പ്രത്യേകിച്ച് മലയാളം പോലുള്ള രൂപിമ-സമ്പന്നമായ ഭാഷകളിൽ (morphemically rich) എഴുതുമ്പോൾ. ഇത് AI-യുടെ അർത്ഥഗ്രഹണത്തെ ദുർബലപ്പെടുത്തുകയും തെറ്റായ പ്രവചനങ്ങൾക്ക് വഴിയൊരുക്കുകയും ചെയ്യുന്നു.
കേവല ഡേറ്റാ അനുകരണത്തെയും മാതൃകകൾ തിരിച്ചറിയലിനെയും (pattern recognition) മാത്രം ആശ്രയിക്കുന്നതിനാൽ, ജനറേറ്റീവ് AI ക്ലിനിക്കൽ രംഗത്ത് ഗുരുതരമായ ജ്ഞാനശാസ്ത്രപരവും പ്രായോഗികവുമായ തകരാറുകൾ പ്രകടിപ്പിക്കുന്നു.
ടോക്കണൈസേഷന് ശേഷമുള്ള അടുത്ത ഘട്ടം ഈ ടോക്കണുകളെ സംഖ്യകളാക്കി മാറ്റുകയാണ്. കമ്പ്യൂട്ടറുകൾക്ക് മനുഷ്യരെപ്പോലെ വാക്കുകളുടെ അർത്ഥം നേരിട്ട് മനസ്സിലാക്കാൻ കഴിയില്ല; സംഖ്യകളെ മാത്രമേ അവയ്ക്ക് ഗ്രഹിക്കാനാകൂ. അതിനാൽ, AI മോഡലുകൾ ഇങ്ങനെ ടോക്കണൈസ് ചെയ്യപ്പെട്ട ഓരോ വാക്കിനെയും അവയുടെ അർത്ഥത്തിനനുസരിച്ചുള്ള ഒരു സംഖ്യാപട്ടികയാക്കി (Vector) മാറ്റുന്നു. പിന്നീട്, ഒരേ അർത്ഥമുള്ള വാക്കുകളെ സംഖ്യാപരമായി അടുത്തടുത്തായി അണിനിരത്തി, വാക്കുകൾ തമ്മിലുള്ള ബന്ധം ഗണിതശാസ്ത്രപരമായി പരിശോധിക്കുകയും അവ തമ്മിലുള്ള സ്ഥിതിവിവര- വിതരണപരമായ ബന്ധം (statistical/distributional relationship) കണക്കാക്കുകയും ചെയ്യുന്നു. ഇത് മനുഷ്യനെപ്പോലെയുള്ള യഥാർത്ഥ അർത്ഥഗ്രഹണമല്ല (semantic understanding) എന്നതാണ് ഇവിടെ പ്രത്യേകം ശ്രദ്ധിക്കേണ്ടത്.
ഇതിനുശേഷം 'ട്രാൻസ്ഫോർമർ ആർക്കിടെക്ചർ' (Transformer architecture) പ്രവർത്തിക്കുന്നു. ഒരു വാചകത്തിലെ വാക്കുകൾ തമ്മിലുള്ള സന്ദർഭവും സ്ഥിതിവിവരപരമായ ബന്ധവും കണക്കാക്കാൻ എ.ഐയെ സഹായിക്കുന്ന സംവിധാനമാണിത്. ഒരേസമയം വാചകത്തിലെ എല്ലാ വാക്കുകളെയും വിശകലനം ചെയ്ത്, ഏത് വാക്കാണ് കൂടുതൽ പ്രാധാന്യമർഹിക്കുന്നത് എന്ന് തിരിച്ചറിയുന്നതിലൂടെ (Attention Mechanism), നൽകപ്പെട്ട ടോക്കണുകളുടെ സന്ദർഭത്തിനനുസരിച്ച് അടുത്തതായി വരാൻ സാധ്യതയുള്ള ഏറ്റവും അനുയോജ്യമായ ടോക്കൺ ഇത് പ്രവചിക്കുകയും ചെയ്യുന്നു.
ഇതിന്റെ സാങ്കേതികമായ പ്രവർത്തനരീതി പരിശോധിച്ചാൽ, മുൻപുള്ള ടോക്കണുകൾ T₁, T₂, ..., Tₙ₋₁ നൽകുമ്പോൾ, അടുത്ത ടോക്കൺ Tₙ-ന്റെ സോപാധിക സംഭാവ്യത (conditional probability) പരമാവധിയാക്കുകയാണ് ഇതിന്റെ ലക്ഷ്യം.
P(Tₙ | T₁, T₂, ..., Tₙ₋₁)
ഉദാഹരണത്തിന്:
T₁ = "എനിക്ക്"
T₂ = "കടുത്ത"
T₃ = "നെഞ്ചു"
T₄ = "വേദന"
T₅ = "യുണ്ട്"
‘‘മുമ്പുവന്ന ടോക്കണുകൾ (T₁ മുതൽ T₅ വരെ) 'എനിക്ക് കടുത്ത നെഞ്ചുവേദനയുണ്ട്' എന്നാണെങ്കിൽ, അടുത്തതായി വരാൻ ഏറ്റവും സാധ്യതയുള്ള ആറാമത്തെ ടോക്കൺ (T₆) ഏതാണ്?"- അതിന്റെ ഉത്തരത്തിന് ഒരു ഡേറ്റാബേസും 'പരതുകയല്ല'; പകരം, പരിശീലനത്തിലൂടെ പഠിച്ച കല്പിതഅളവുകൾ (parameters/weights) ഉപയോഗിച്ച് ഓരോ സാധ്യതയുള്ള ടോക്കണിന്റെയും സംഭാവ്യത (Probability) കണക്കാക്കുന്നു:
T₆ = "ഹൃദ്രോഗം" (സാധ്യത: 85%)
T₆ = "ഗ്യാസ്ട്രബിൾ" (സാധ്യത: 10%)
T₆ = "ബിരിയാണി" (സാധ്യത: 0.001%)
(ലളിതവൽക്കരണത്തിനായി ഇവിടെ ഓരോ വാക്കിനെയും ഒറ്റ ടോക്കണായി കാണിച്ചിരിക്കുന്നു; യഥാർത്ഥത്തിൽ ഇവ ഓരോന്നും ഒന്നിലധികം ടോക്കണുകളായി പിരിഞ്ഞേക്കാം, മുകളിൽ സൂചിപ്പിച്ചതുപോലെ.)
മേൽപ്പറഞ്ഞ മൂന്നും ആറാമത്തെ സ്ഥാനത്തേക്ക് മത്സരിക്കുന്ന വ്യത്യസ്ത സാധ്യതകളാണ്- അവ തുടർച്ചയായ ടോക്കണുകളല്ല. ഇതിൽ ഏറ്റവും ഉയർന്ന സാധ്യതയുള്ള (85%) ടോക്കൺ തിരഞ്ഞെടുക്കുകയാണ് സാധാരണ ചെയ്യാറുള്ളതെങ്കിലും, പ്രായോഗികമായി മോഡലുകൾ 'Temperature', 'Top-p' പോലുള്ള സങ്കേതങ്ങളിലൂടെ, ഒരു പരിധിവരെ ക്രമരഹിതമായ തിരഞ്ഞെടുപ്പോടെയാണ് (Sampling) ഉയർന്ന സാധ്യതയുള്ളവയിൽ നിന്ന് ഒരെണ്ണം നിശ്ചയിക്കുന്നത്. ഈ യാദൃച്ഛികത തന്നെയാണ് ഒരേ ചോദ്യത്തിന് വ്യത്യസ്ത ഉത്തരങ്ങൾ ലഭിക്കാനും, ചിലപ്പോൾ 'ഹാലൂസിനേഷന്' (Hallucination) വഴിയൊരുങ്ങാനും ഒരു കാരണം.
AI-യുടെ പ്രതികരണങ്ങൾ പ്രത്യക്ഷത്തിൽ അത്യന്തം ആധികാരികവും വിശ്വസനീയവുമായി തോന്നുമെങ്കിലും, അവ അടിസ്ഥാനപരമായി ഉയർന്ന തലത്തിലുള്ള ഒരു 'ഓട്ടോകംപ്ലീറ്റ്' പ്രക്രിയയുടെ പരിണതഫലം മാത്രമാണ്.
ചുരുക്കത്തിൽ, ടോക്കണൈസേഷൻ വഴി വാചകത്തെ കഷ്ണങ്ങളാക്കി മാറ്റി, വെക്റ്ററുകൾ വഴി അവയുടെ സ്ഥിതിവിവര ബന്ധം കണക്കാക്കി, ഗണിതശാസ്ത്രപരമായ സാധ്യതകൾ (Probability) ഉപയോഗിച്ച് അടുത്ത വാക്ക് പ്രവചിക്കുക മാത്രമാണ് chat GPT പോലെയുള്ള ജനറേറ്റിവ് AI-കൾ ചെയ്യുന്നത്. അതുകൊണ്ടാണ് അത് വെറുമൊരു 'പ്രൊബബിലിറ്റി എഞ്ചിൻ' ആണെന്നും, അതിന് മനുഷ്യനെപ്പോലെ വിവേചനബുദ്ധിയില്ല എന്നും പറയുന്നത്.
ഈ ഗണിതശാസ്ത്ര സമവാക്യത്തിന്റെ ഏറ്റവും പ്രശ്നകരമായ സംഗതി എന്നത്- മോഡൽ പിന്തുടരുന്നത് കാര്യകാരണ ബന്ധമല്ല (causation), മറിച്ച് സഹസംഭവ്യതയാണ് (co-occurrence). അതായത് ഒരു ഹ്യൂമൻ ക്ലിനിഷ്യൻ പുലർത്തുന്നതുപോലെ രോഗശരീരശാസ്ത്രതലത്തിൽ കാര്യകാരണയുക്തിയോടെ (causal reasoning) രോഗലക്ഷണങ്ങളെയും അവയുടെ ഫലങ്ങളെയും ശാസ്ത്രീയമായി അപഗ്രഥിക്കാൻ AI-യ്ക്ക് കഴിയില്ല. മറിച്ച്, അത് ഭാഷാഘടനയിലെ കേവലമായ സ്വാഭാവികതയും (plausibility) സ്റ്റാറ്റിസ്റ്റിക്കൽ സാധ്യതകളും മാത്രമാണ് ലക്ഷ്യമിടുന്നത്. യുക്തിയെയും സ്ഥിതിവിവരപഠനത്തെയും സംയോജിപ്പിക്കാൻ ന്യൂറോ-സിംബോളിക് AI (Neuro-symbolic AI) ശ്രമിക്കുന്നത് ഒരു എൻജിനീയറിങ് പ്രശ്നത്തിനുള്ള പരിഹാരമാണ്; ചികിത്സാതീരുമാനത്തിന്റെ ധാർമ്മിക ഉത്തരവാദിത്തം അതിൽ നിന്ന് സ്വയമേവ ഉരുത്തിരിയുന്ന ഒന്നല്ല. AI-യുടെ പ്രതികരണങ്ങൾ പ്രത്യക്ഷത്തിൽ അത്യന്തം ആധികാരികവും വിശ്വസനീയവുമായി തോന്നുമെങ്കിലും, അവ അടിസ്ഥാനപരമായി ഉയർന്ന തലത്തിലുള്ള ഒരു 'ഓട്ടോകംപ്ലീറ്റ്' (autocomplete) പ്രക്രിയയുടെ പരിണതഫലം മാത്രമാണ്.
ഇവിടെ ഉയരാവുന്ന മറുവാദം- ഈ 'ഓട്ടോകംപ്ലീറ്റ്' സംവിധാനങ്ങൾ യു.എസ്.എം.എൽ.ഇ (USMLE) പോലുള്ള മെഡിക്കൽ ലൈസൻസിങ് പരീക്ഷകൾ വിജയിക്കുകയും പല രോഗനിർണ്ണയ മാനദണ്ഡങ്ങളിലും (diagnostic benchmark) ശരാശരി ഡോക്ടറെ മറികടക്കുകയും ചെയ്തിട്ടുണ്ടല്ലോ (Singhal et al., 2023). ഇത് ശരിയാണ്, പക്ഷേ ഒരു മാനകീകരിച്ച (standardised) പരീക്ഷയിലെ പ്രകടനവും (benchmark performance) യഥാർത്ഥ ക്ലിനിക്കൽ പ്രാപ്തിയും (clinical competence) ഒന്നല്ല. അവിടെ മാനദണ്ഡങ്ങൾ വൃത്തിയായി ക്രമീകരിച്ച, സന്ദർഭം നൽകപ്പെട്ട ചോദ്യങ്ങളാണ്; യഥാർത്ഥ രോഗീപരിചരണത്തിലാകട്ടെ പ്രസക്തമായ സന്ദർഭം സ്വയം കണ്ടെത്തേണ്ടതും, അനിശ്ചിതത്വം കൈകാര്യം ചെയ്യേണ്ടതും, തീരുമാനത്തിന്റെ ഉത്തരവാദിത്തം ഏറ്റെടുക്കേണ്ടതുമുണ്ട്- ഇവ മൂന്നും മാനകീകരിച്ച പരീക്ഷകൾക്ക് അളക്കാനാവാത്തവയാണ്.
ഇത്തരത്തിൽ കേവല ഡേറ്റാ അനുകരണത്തെയും മാതൃകകൾ തിരിച്ചറിയലിനെയും (pattern recognition) മാത്രം ആശ്രയിക്കുന്നതിനാൽ, ജനറേറ്റീവ് AI ക്ലിനിക്കൽ രംഗത്ത് ഗുരുതരമായ ജ്ഞാനശാസ്ത്രപരവും പ്രായോഗികവുമായ തകരാറുകൾ പ്രകടിപ്പിക്കുന്നു. ഇതിൽ ഏറ്റവും പ്രധാനപ്പെട്ട ഒന്നാണ് AI തികഞ്ഞ ആത്മവിശ്വാസത്തോടെ തെറ്റായ വിവരങ്ങൾ നിർമ്മിച്ചു നൽകുന്ന 'ഹാലൂസിനേഷൻ, പ്ലോസിബിലിറ്റി മാസ്ക്' (hallucination and plausibility mask) എന്നിവ. വൈദ്യശാസ്ത്രത്തിൽ നിലവിലില്ലാത്ത മരുന്നുകളുടെ അളവ് (dosage), വ്യാജമായ മെഡിക്കൽ ജേണൽ ഉദ്ധരണികൾ, തെറ്റായ ലബോറട്ടറി മാനദണ്ഡങ്ങൾ (lab values) എന്നിവ AI വളരെ സ്വാഭാവികമായി നിർമ്മിച്ചേക്കാം. ഇതൊരു കേവല സാങ്കേതിക 'ന്യൂനത' (glitch) അല്ല, മറിച്ച് സംഭാവ്യതാധിഷ്ഠിത സിസ്റ്റത്തിന്റെ (probabilistic system) അന്തർലീനമായ പരിമിതിയാണ്.
ഇവിടെ കാണാവുന്ന സൂക്ഷ്മമായ വ്യത്യാസം മെച്ചപ്പെട്ട പരിശീലനത്തിലൂടെ ഹാലൂസിനേഷന്റെ നിരക്ക് (rate) ഗണ്യമായി കുറയ്ക്കാനായേക്കും; എന്നാൽ സംഭാവ്യതയെ അടിസ്ഥാനമാക്കി ടെക്സ്റ്റ് ഉത്പാദിപ്പിക്കുന്ന ഈ സംവിധാനത്തിന്റെ സ്വഭാവം മൂലം അതിനെ പൂർണ്ണമായി ഇല്ലാതാക്കാനാവില്ല എന്നതാണ്. അതായത് ഹാലൂസിനേഷൻ അളവിൽ (degree) ലഘൂകരിക്കാമെങ്കിലും, സ്വഭാവത്തിൽ (kind) ഒരു അന്തർലീന സാധ്യതയായി തുടരുന്നു. അപൂർവ്വമായ ഒരു മെഡിക്കൽ അവസ്ഥയും (rare clinical anomaly) അൽഗോരിതത്തിന് പറ്റിയ അബദ്ധവും തമ്മിൽ വേർതിരിച്ചറിയാനുള്ള വിവേചനബുദ്ധി- അതായത്, സ്റ്റാറ്റിസ്റ്റിക്കൽ വിരളതയും യഥാർത്ഥ വൈദ്യശാസ്ത്ര അപൂർവ്വതയും തമ്മിലുള്ള വ്യത്യാസം- ഈ നിർമ്മിത ബുദ്ധി സംവിധാനത്തിനില്ല. ഇത്രയും ഗൗരവകരമായ ആന്തരിക പരിമിതികൾക്ക് പുറമേ, നിർമ്മിത ബുദ്ധിക്ക് മറികടക്കാൻ കഴിയാത്ത മറ്റൊരു പ്രധാന വെല്ലുവിളിയാണ് അതിന്റെ 'സന്ദർഭമില്ലായ്മ' (context-blindness).
ആഗോളതലത്തിലുള്ള മെഡിക്കൽ ഡാറ്റ ഭൂരിഭാഗവും വികസിത പാശ്ചാത്യ രാജ്യങ്ങളിലെ പ്രത്യേക ജനവിഭാഗങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്. ഇത് വികസ്വര രാജ്യങ്ങളിലെ ഗ്രാമീണ ജനതയുടെ സവിശേഷമായ രോഗലക്ഷണങ്ങളെയും പ്രാദേശിക രോഗാതുരതയെയും തെറ്റായി വ്യാഖ്യാനിക്കുന്ന 'അൽഗോരിതമിക് ബയസിനും എപിസ്റ്റമിക് അനീതിക്കും' കാരണമാകുന്നു.
ക്ലിനിക്കൽ മെഡിസിൻ എന്നത് കേവലം രോഗലക്ഷണങ്ങളുടെ ഒരു നിശ്ചലമായ പട്ടികയല്ല (static list). ഒരു രോഗി നെഞ്ചുവേദനയുമായി വരുമ്പോൾ എഐ അതിന്റെ ഡിജിറ്റൽ ഡാറ്റയിലുള്ള ആഗോള സാമാന്യ വിവരങ്ങൾ വെച്ചാണ് മറുപടി നൽകുക. എന്നാൽ ആ കമ്മ്യൂണിറ്റിയിൽ നിലവിൽ പടർന്നുപിടിക്കുന്ന ഒരു പകർച്ചവ്യാധിയുടെ പ്രാദേശിക യാഥാർത്ഥ്യങ്ങളോ, രോഗിയുടെ ജീവിതാന്തരീക്ഷമോ ഒരു ഏകീകൃത പ്രോംപ്റ്റിൽ (prompt) കൃത്യമായി നൽകാത്തപക്ഷം മോഡലിന്റെ പരിഗണനയിൽ വരില്ല. ഏതൊക്കെ സന്ദർഭ ഘടകങ്ങളാണ് പ്രസക്തമെന്ന് സ്വയം തിരിച്ചറിയാനുള്ള ശേഷി ഈ മോഡലുകൾക്ക് അന്തർലീനമല്ല.
കൂടാതെ, ആഗോളതലത്തിലുള്ള മെഡിക്കൽ ഡാറ്റ ഭൂരിഭാഗവും വികസിത പാശ്ചാത്യ രാജ്യങ്ങളിലെ പ്രത്യേക ജനവിഭാഗങ്ങളെ (WEIRD populations) അടിസ്ഥാനമാക്കിയുള്ളതാണ് (Henrich et al., 2010). ഇത് വികസ്വര രാജ്യങ്ങളിലെ ഗ്രാമീണ ജനതയുടെ സവിശേഷമായ രോഗലക്ഷണങ്ങളെയും പ്രാദേശിക രോഗാതുരതയെയും തെറ്റായി വ്യാഖ്യാനിക്കുന്ന 'അൽഗോരിതമിക് ബയസിനും എപിസ്റ്റമിക് അനീതിക്കും' (Epistemic Injustice) കാരണമാകുന്നു. ദശലക്ഷക്കണക്കിന് രോഗികളെ ബാധിച്ച ഇത്തരമൊരു യഥാർത്ഥ വംശീയ പക്ഷപാതം പഠനങ്ങളിൽ രേഖപ്പെടുത്തപ്പെട്ടിട്ടുണ്ട് (Obermeyer et al., 2019). ഇവിടെ വ്യക്തമാക്കേണ്ട ഒരു കാര്യം, Obermeyer-ന്റെ പഠനത്തിലെ അൽഗോരിതം ഒരു ജനറേറ്റീവ് AI ആയിരുന്നില്ല, മറിച്ച് ആരോഗ്യച്ചെലവിനെ ആവശ്യത്തിന്റെ അളവുകോലായി ഉപയോഗിച്ച ഒരു വാണിജ്യ റിസ്ക്- പ്രവചന അൽഗോരിതമായിരുന്നു. എങ്കിലും, ഡേറ്റയിൽ പതിഞ്ഞ പക്ഷപാതം എങ്ങനെ വ്യവസ്ഥാപിതമായ അനീതിയായി മാറുന്നു എന്നതിന്റെ തത്വം എൽ.എൽ.എമ്മുകൾക്കും ഒരുപോലെ ബാധകമാണ്.
ഇവിടെ പക്ഷപാതം യന്ത്രങ്ങൾക്ക് മാത്രം ആരോപിക്കാവുന്ന ഒന്നല്ല, മനുഷ്യഡോക്ടർമാരും വർഗ, ലിംഗ, വംശ പക്ഷപാതങ്ങൾ പുലർത്തുന്നുണ്ടായിരിക്കാം, ചില സന്ദർഭങ്ങളിൽ ഈ മനുഷ്യ പക്ഷപാതങ്ങളെ വെളിച്ചത്തുകൊണ്ടുവരാൻ അൽഗോരിതമിക് വിശകലനം സഹായിക്കുകയും ചെയ്യും. എന്നാൽ യഥാർത്ഥ വ്യത്യാസം നിലനിൽക്കുന്നത് ഉത്തരവാദിത്തത്തിന്റെയും തിരുത്തലിന്റെയും തലത്തിലാണ്: ഒരു മനുഷ്യ ഡോക്ടറുടെ പക്ഷപാതത്തെ ചോദ്യം ചെയ്യാനും, ന്യായീകരണം ആവശ്യപ്പെടാനും, നൈതിക ഉത്തരവാദിത്തം ചുമത്താനും നിയമസംവിധാനങ്ങൾക്കും, സമൂഹത്തിനും, രോഗികൾക്കും കഴിയും; എന്നാൽ ഒരു 'ബ്ലാക്ക് ബോക്സ്' (Black Box) മോഡലിനോട് ഇത് സാധ്യമല്ല. Explainable AI (XAI) ഗവേഷണങ്ങൾ ഈ സുതാര്യതയില്ലായ്മ ഭാഗികമായി പരിഹരിക്കാൻ ശ്രമിക്കുന്നുണ്ടെങ്കിലും, ഒരു മോഡലിന്റെ തീരുമാനം 'വിശദീകരിക്കാൻ' കഴിയുക എന്നതും, ആ തീരുമാനത്തിന്റെ ധാർമ്മിക ഉത്തരവാദിത്തം ഏറ്റെടുക്കുക എന്നതും രണ്ടും ഒന്നല്ല.
അറിവിന്റെ
സാമൂഹിക നിർമ്മിതി
AI ഒരു രോഗിയെ കേവലം ഡിജിറ്റൽ ഡാറ്റയുടെ ഒരു ക്ലസ്റ്ററായി മാത്രം കാണുമ്പോൾ, ആധുനിക ശാസ്ത്രം രോഗിയെ ഒരു വലിയ സാമൂഹിക-പാരിസ്ഥിതിക വ്യവസ്ഥയുടെ ഭാഗമായാണ് ദർശിക്കുന്നത്. ഒരു വ്യക്തിയുടെ രോഗാവസ്ഥ എന്നത് അയാളുടെ ജൈവിക ഘടനയിൽ മാത്രമല്ല, മറിച്ച് പാർപ്പിടം, സാമ്പത്തികാവസ്ഥ, തൊഴിൽ അന്തരീക്ഷം, പോഷകാഹാരം എന്നിവയുമായി അവിഭാജ്യമായി ബന്ധപ്പെട്ടിരിക്കുന്നു (WHO Commission on Social Determinants of Health, 2008). എഐ രോഗലക്ഷണങ്ങളെ വെവ്വേറെയുള്ള ഡേറ്റാ പോയിന്റുകളായി കാണുമ്പോൾ, മനുഷ്യനായ ഡോക്ടർ അതിനെ ഒരു 'സിൻഡെമിക്' (Syndemic, Singer, 2009) പ്രതിഭാസമായിട്ടായിരിക്കും വിലയിരുത്തുന്നത്; അതായത്, ഒന്നിലധികം രോഗങ്ങളും സാമൂഹിക-സാമ്പത്തിക പ്രതിസന്ധികളും പരസ്പരപ്രവർത്തനത്തിലൂടെ രോഗിയുടെ ആരോഗ്യത്തെ എങ്ങനെ തകിടം മറിക്കുന്നു എന്ന യാഥാർത്ഥ്യം.
അതിനാൽ, പ്രാദേശികമായി ലഭ്യമായതും രോഗിയുടെ സാമ്പത്തിക സാഹചര്യങ്ങൾക്ക് ഇണങ്ങുന്നതുമായ ഒരു പ്രായോഗിക ചികിത്സാ പദ്ധതി ഒരു ഡോക്ടർ രൂപീകരിക്കുമ്പോൾ; എഐ പലപ്പോഴും പാശ്ചാത്യ ക്ലിനിക്കൽ മാനദണ്ഡങ്ങളെ (Western clinical guidelines) മാത്രം അടിസ്ഥാനമാക്കിയുള്ള, യാഥാർത്ഥ്യങ്ങൾക്ക് നിരക്കാത്ത നിർദ്ദേശങ്ങളായിരിക്കും നൽകുക. (Mishra S, 2016)
ശബ്ദത്തിലെ നേർത്ത വിറയലോ വിളറിയ ചർമ്മത്തിന്റെ നിറഭേദങ്ങളോ ഒരു എഐ മോഡലിന് തിരിച്ചറിയാൻ കഴിയില്ലെന്ന് വാദിക്കുന്നത് ഇന്ന് ശാസ്ത്രീയമായി നിലനിന്നേക്കില്ല; മൾട്ടിമോഡൽ സിസ്റ്റങ്ങൾക്ക് ഭാവിയിൽ ഇത്തരം സൂക്ഷ്മ സിഗ്നലുകൾ ഡിജിറ്റൽ ഡാറ്റയായി പരിവർത്തനം ചെയ്യാൻ സാധിച്ചേക്കാം. എന്നാൽ ഒരു സിഗ്നൽ കണ്ടെത്തുന്നതും, ആ സിഗ്നൽ ആ പ്രത്യേക മനുഷ്യന്റെ ജീവിതത്തിൽ എന്ത് അർത്ഥം നൽകുന്നു (semantic grounding) എന്ന് ഗ്രഹിക്കുന്നതും, അതിന്മേൽ ഒരു മാനുഷിക തീരുമാനമെടുത്ത് അതിന്റെ നൈതിക ഉത്തരവാദിത്തം ഏറ്റെടുക്കുന്നതും തികച്ചും വ്യത്യസ്തമാണ്.
ഭാവിയിൽ വികസിപ്പിക്കപ്പെട്ടേക്കാവുന്ന 'പൊതുവായ കൃത്രിമ ബുദ്ധി' അല്ലെങ്കിൽ കൂടുതൽ സങ്കീർണ്ണമായ അൽഗോരിതമുകൾക്ക് പോലും മനുഷ്യന്റെ ഈ ജൈവികമായ സവിശേഷതകളെ പകർത്താൻ കഴിയുമോ എന്നത് തുറന്ന ചോദ്യമായി തുടരുന്നു.
മൈക്കൽ പൊലാനി മുന്നോട്ടുവെച്ച 'നിശ്ശബ്ദ ജ്ഞാനം' (Tacit Knowledge — Polanyi, 1966) എന്ന സങ്കൽപ്പം ഇവിടെ പ്രസക്തമാണ് - വാക്കുകളിലൂടെയും നിയമങ്ങളിലൂടെയും പ്രകടിപ്പിക്കാൻ കഴിയുന്നതിനേക്കാൾ കൂടുതൽ കാര്യങ്ങൾ പ്രായോഗികമായി നമുക്കറിയാം (We can know more than we can tell). പുസ്തകങ്ങളിലോ ഡാറ്റാബേസുകളിലോ രേഖപ്പെടുത്താവുന്ന ബാഹ്യമായ അറിവ് (explicit knowledge) മാത്രമേ AI- യ്ക്ക് വിശകലനം ചെയ്യാൻ കഴിയൂ. എന്നാൽ ഒരു മുതിർന്ന ക്ലിനീഷ്യൻ രോഗനിർണ്ണയം നടത്തുന്നത് ലക്ഷണങ്ങളുടെ ഒരു 'ചെക്ക് ലിസ്റ്റ്' നോക്കി മാത്രമല്ല; മേൽപ്പറഞ്ഞ സൂക്ഷ്മസൂചനകൾ ആ വ്യക്തിയുടെ ജീവിതസാഹചര്യത്തിൽ എന്തർത്ഥമാക്കുന്നു എന്ന ആഴത്തിലുള്ള ഗ്രാഹ്യത്തിലൂടെയാണ്. അൽഗോരിതങ്ങൾക്ക് അപ്രാപ്യമായ ഈ 'ക്ലിനിക്കൽ ഇൻട്യൂഷൻ' (Clinical intuition) ആണ് വിദഗ്ധരായ മനുഷ്യ ഡോക്ടർമാരെ എഐയിൽ നിന്ന് വേർതിരിക്കുന്ന പ്രധാന ഘടകം.
ജനറേറ്റീവ് AI-യുടെ പരിമിതികളെ കാലക്രമേണ പരിഹരിക്കാവുന്നവ (Contingent) എന്നും ഘടനാപരമായവ (Constitutive) എന്നും രണ്ടായി തിരിക്കേണ്ടതുണ്ട്. ഹാലൂസിനേഷനുകൾ, അൽഗോരിതമിക് ബയസ്, സന്ദർഭമില്ലായ്മ എന്നിവ സാങ്കേതികവിദ്യയുടെ പുരോഗതിയോടെയും മികച്ച ഡാറ്റാസെറ്റുകളുടെ ലഭ്യതയിലൂടെയും മറികടക്കാവുന്ന 'കാലക്രമേണ പരിഹരിക്കാവുന്ന' പരിമിതികളാണ്. എന്നാൽ, എഐയുടെ അമൂർത്തത (lack of embodiment), പങ്കാളിത്തമില്ലായ്മ, നൈതികവും നിയമപരവുമായ ഉത്തരവാദിത്തം ഏറ്റെടുക്കാനുള്ള അപര്യാപ്തത എന്നിവ അതിന്റെ ഗണിതശാസ്ത്രപരമായ ഘടനയിൽ തന്നെ അലിഞ്ഞുചേർന്ന പരിമിതികളാണ്. ഇതൊരു ദാർശനിക നിലപാടാണെന്നത് സമ്മതിക്കേണ്ടതുണ്ട്: മൂർത്തീകരണവും (embodiment), പങ്കാളിത്തവും ജൈവിക ശരീരത്തിന്റെ (substrate) അനിവാര്യ ഫലമാണോ, അതോ തത്വത്തിൽ പുനഃസൃഷ്ടിക്കാവുന്ന ഒരു പ്രവർത്തനം (function) മാത്രമാണോ എന്നത്- ഫിനോമിനോളജി (phenomenology) മുതൽ ഫങ്ഷണലിസം (functionalism) വരെയുള്ള ദർശനങ്ങൾ വ്യത്യസ്തമായി ഉത്തരം നൽകുന്ന ഒരു തുറന്ന ചോദ്യമാണ്. ഈ ലേഖനം മുന്നോട്ടുവെക്കുന്നത് ജൈവികമായ സഹാനുഭവത്തിന് (lived, embodied co-suffering) ഊന്നൽ നൽകുന്ന ഒരു ദാർശനിക നിലപാടാണ്. ആ നിലപാടനുസരിച്ച്, സാങ്കേതികവിദ്യ എത്രത്തോളം പരിണമിച്ചാലും, ഒരു ഗണിത സംവിധാനത്തിന് ഒരിക്കലും ഒരു രോഗിയുടെ 'സഹജീവി' ആയി മാറാൻ സാധ്യമല്ല. ഈ ഘടനാപരമായ പരിമിതിയാണ് എഐയെ ഒരു സ്വയംഭരണാധികാരമുള്ള ക്ലിനിക്കൽ ഏജന്റാകുന്നതിൽ നിന്ന് അടിസ്ഥാനപരമായി തടഞ്ഞുനിർത്തുന്നത്.
ഭാവിയിൽ വികസിപ്പിക്കപ്പെട്ടേക്കാവുന്ന 'പൊതുവായ കൃത്രിമ ബുദ്ധി' (Artificial General Intelligence - AGI) അല്ലെങ്കിൽ കൂടുതൽ സങ്കീർണ്ണമായ അൽഗോരിതമുകൾക്ക് പോലും മനുഷ്യന്റെ ഈ ജൈവികമായ സവിശേഷതകളെ (Embodiment and Existential Participation) പകർത്താൻ കഴിയുമോ എന്നത് തുറന്ന ചോദ്യമായി തുടരുന്നു. എന്നാൽ, നിലവിലെ സാങ്കേതിക ചട്ടക്കൂടുകളിൽ ഏറ്റവും ഉറപ്പിച്ചുപറയാവുന്ന കാര്യം ഇതാണ്: ഒരു യന്ത്രത്തിന്- അത് എത്ര ഉന്നതമായാലും- ഒരു നിയമപരമോ നൈതികമോ ആയ 'വ്യക്തി'യായി (legal/moral person) നിലവിൽ ഉത്തരവാദിത്തം ഏറ്റെടുക്കാനാവില്ല. പിന്തുണയും ബോധവും (consciousness) യന്ത്രത്തിന് ഭാവിയിൽ കൈവരുമോ എന്നത് തർക്കവിഷയമായി തുടരുമെങ്കിലും, ഉത്തരവാദിത്തം എന്ന നിയമ-നൈതിക തലം ഇന്ന് മനുഷ്യനിൽ മാത്രമാണ് നിലനിൽക്കുന്നത്. ചുരുക്കത്തിൽ, എഐയുടെ പരിണാമം അതിന്റെ സാങ്കേതിക കൃത്യത കൂട്ടിയേക്കാം, എന്നാൽ, ക്ലിനിക്കൽ മെഡിസിനിൽ മനുഷ്യന് സമമായ ജ്ഞാനശാസ്ത്രപരമായ പ്രാമാണികതയും ഉത്തരവാദിത്തവും (epistemic authority) കൈവരിക്കുക എന്നത് AI-യെ സംബന്ധിച്ച് അപ്രാപ്യമാണ്.
ആരോഗ്യനയരൂപീകരണവും
ജ്ഞാനശാസ്ത്രപരമായ ആധാരവും
ഈ ദാർശനികവും ഘടനാപരവുമായ പരിമിതികളെ മുൻനിർത്തിക്കൊണ്ട്, ആരോഗ്യനയരൂപീകരണത്തിലും പ്രായോഗികതലത്തിലും നാം AI-യെ എപ്രകാരമാണ് സമീപിക്കേണ്ടതെന്ന് പരിശോധിക്കേണ്ടതുണ്ട്. ഇത് ഒരു സന്തുലിതമായ നിലപാട് ആവശ്യപ്പെടുന്നു.
ജനറേറ്റീവ് AI-യെ ഒരിക്കലും ഒരു സ്വയംഭരണാധികാരമുള്ള രോഗനിർണ്ണയസംവിധാനമായി കാണരുത്. മറിച്ച്, അതിനെ 'Software as a Medical Device' അല്ലെങ്കിൽ ഒരു സഹായഉപകരണമായി മാത്രം തരംതിരിക്കണം.
മുകളിൽ വിവരിച്ച പക്ഷപാത പ്രശ്നങ്ങൾ AI-യെ ജാഗ്രതയോടെ സമീപിക്കാൻ നമ്മെ പ്രേരിപ്പിക്കുമ്പോൾ തന്നെ, ഒരു മറുവശവുമുണ്ട്: ലോകത്ത് കോടിക്കണക്കിന് മനുഷ്യർക്ക് ഒരു ഡോക്ടറുടെ സേവനം പോലും ലഭ്യമല്ല. ഡോക്ടർമാരുടെ ഗുരുതരമായ ദൗർലഭ്യമുള്ള പ്രദേശങ്ങളിൽ, അപൂർണ്ണമായ ഒരു എഐ ഉപകരണം പോലും- മതിയായ മേൽനോട്ടത്തോടെ ഉപയോഗിച്ചാൽ- ആരോഗ്യഫലങ്ങൾ മെച്ചപ്പെടുത്തിയേക്കാം. അതായത് AI-യുടെ പക്ഷപാതം പാർശ്വവൽക്കരിക്കപ്പെട്ടവരെ ദ്രോഹിക്കാമെങ്കിലും, ചികിത്സ ലഭ്യമല്ലാത്ത അവസ്ഥയും അവരെ ഒരുപോലെ ദ്രോഹിക്കുന്നുണ്ട്. ഈ ധർമ്മസങ്കടം (tension) അംഗീകരിച്ചുകൊണ്ടുവേണം നയം രൂപപ്പെടുത്താൻ.
ജനറേറ്റീവ് AI-യെ ഒരിക്കലും ഒരു സ്വയംഭരണാധികാരമുള്ള രോഗനിർണ്ണയസംവിധാനമായി കാണരുത്. മറിച്ച്, അതിനെ 'Software as a Medical Device' (SaMD) അല്ലെങ്കിൽ ഒരു സഹായഉപകരണമായി മാത്രം തരംതിരിക്കണം. എന്നിരുന്നാലും, 'സ്വയംഭരണം' (autonomy) എന്നത് ഒരു ഏകശിലാസങ്കല്പമല്ല. ഉയർന്ന അപകടസാധ്യതയുള്ള രോഗനിർണ്ണയ-ചികിത്സാ തീരുമാനങ്ങളിൽ പൂർണ്ണ സ്വയംഭരണം അനുവദിക്കാനാവില്ലെങ്കിലും, ട്രയാജ് (triage), സ്ക്രീനിങ്, ഡോക്യുമെന്റേഷൻ പോലുള്ള ചില പ്രത്യേക, പരിമിത- അപകട ജോലികളിൽ കർശന മേൽനോട്ടത്തോടെയുള്ള നിശ്ചിത ദൗത്യത്തിലുള്ള സ്വയംഭരണാധികാരം (task-specific autonomy) പ്രായോഗികമായി പരിഗണിക്കാവുന്നതാണ്.
ഏതൊക്കെ ജോലികളിൽ എത്രത്തോളം സ്വയംഭരണം എന്നതാണ് യഥാർത്ഥ നയപരമായ ചോദ്യം. ഇവിടെ അന്തിമമായ നിയമ-ധാർമ്മിക ഉത്തരവാദിത്തം മനുഷ്യനിൽ തന്നെ നിലനിർത്തുന്ന 'Human-in-the-Loop' (HITL) മാതൃക കർശനമാക്കേണ്ടതുണ്ട് (Cabitza et al., 2017; Char et al., 2018). അല്ലാത്തപക്ഷം, AI കൃത്യമായി പ്രവർത്തിക്കുമ്പോൾ പോലും അഡ്മിനിസ്ട്രേറ്റീവ് എളുപ്പത്തിനായി ക്ലിനീഷ്യൻമാർ യന്ത്രത്തിന്റെ നിർദ്ദേശങ്ങളെ ചോദ്യം ചെയ്യാതെ അമിതമായി ആശ്രയിക്കുന്ന 'ഓട്ടോമേഷൻ ബയസ്' (automation bias) ഉണ്ടാകുകയും, ഇത് കാലക്രമേണ അവരുടെ ക്ലിനിക്കൽ വിവേചനബുദ്ധിയെയും നിശ്ശബ്ദ ജ്ഞാനത്തെയും ഇല്ലാതാക്കുന്ന 'ഡി-സ്കില്ലിങ്' (de-skilling) കെണിയിലേക്ക് അവരെ നയികയും ചെയ്തേക്കാം (Berzin & Topol, 2024).
ഡോക്ടർമാർ AI ടൂളുകൾ ഉപയോഗിക്കുന്നുണ്ടോ എന്നതല്ല, മറിച്ച് AI-യുടെ 'പ്ലോസിബിലിറ്റി'യെ (Plausibility) വെല്ലുവിളിക്കാനും ഡേറ്റയിലെ അൽഗോരിതമിക് അസത്യങ്ങളെ തിരിച്ചറിയാനും കഴിയുന്ന 'ജ്ഞാനപരമായ മേൽനോട്ടം' (Epistemic Oversight) പുലർത്തുന്നുണ്ടോ എന്നതാണ് പ്രധാനം. ഈ ശേഷിയിലാണ് ഒരു ഡോക്ടറുടെ യഥാർത്ഥ 'ചികിത്സാപരമായ പരമാധികാരം' (Clinical Sovereignty) കുടികൊള്ളുന്നത്. ഒരു ഡോക്ടറെ സംബന്ധിച്ച് എഐ ഒരു ടൂളല്ല; മറിച്ച്, പലപ്പോഴും, ഡോക്ടറുടെ വിവേചനബുദ്ധിയെ (Clinical Judgment) ഉരച്ചുനോക്കുന്ന ഒരു ഉരകല്ല് മാത്രമാണ്.
ജനറേറ്റീവ് AI-യും മനുഷ്യനായ ക്ലിനീഷ്യനും തമ്മിലുള്ള വ്യത്യാസങ്ങൾ അവയുടെ ജ്ഞാനശാസ്ത്രപരവും പ്രായോഗികവുമായ തലങ്ങളിൽ അങ്ങേയറ്റം പ്രകടമാണ്.
ഈ പുതിയ യാഥാർത്ഥ്യത്തെ നേരിടാൻ നമ്മുടെ വൈദ്യശാസ്ത്ര വിദ്യാഭ്യാസത്തിലും മാറ്റങ്ങൾ അനിവാര്യമാണ്. സാങ്കേതികമായ അറിവുകൾക്കപ്പുറം, യന്ത്രങ്ങൾ നൽകുന്ന വിവരങ്ങളുടെ ആധികാരികതയെ ചോദ്യം ചെയ്യാനും മനുഷ്യകേന്ദ്രീകൃതമായ തീരുമാനങ്ങളെടുക്കാനും പ്രാപ്തിയുള്ള ഒരു തലമുറയെ വാർത്തെടുക്കേണ്ടതുണ്ട്. അതിനാൽ, ഭാവിയിലെ മെഡിക്കൽ പാഠ്യപദ്ധതി സാങ്കേതികവിദ്യയ്ക്ക് പ്രാധാന്യം നൽകുമെങ്കിലും, അതിനേക്കാൾ ഇരട്ടി പ്രാധാന്യത്തോടെ കമ്മ്യൂണിറ്റി മെഡിസിനെയും, മാനവിക വിഷയങ്ങളെയും (Medical Humanities) വൈദ്യശാസ്ത്രത്തിന്റെ കാതലായി നിലനിർത്തേണ്ടത് അത്യന്താപേക്ഷിതമാണ്.
ജനറേറ്റീവ് AI-യും മനുഷ്യനായ ക്ലിനീഷ്യനും തമ്മിലുള്ള വ്യത്യാസങ്ങൾ അവയുടെ ജ്ഞാനശാസ്ത്രപരവും പ്രായോഗികവുമായ തലങ്ങളിൽ അങ്ങേയറ്റം പ്രകടമാണ്. എൽ.എ.എമ്മുകളുടെ അറിവിന്റെ അടിസ്ഥാനം കേവലം സിന്റാക്സിലും സ്റ്റാറ്റിസ്റ്റിക്കൽ പാറ്റേണുകളിലും പ്രൊബബിലിറ്റി സാധ്യതകളിലും മാത്രം ഒതുങ്ങുമ്പോൾ, മനുഷ്യനായ ഡോക്ടറുടെ ജ്ഞാനം രോഗശരീരശാസ്ത്രത്തിലും പ്രായോഗിക അനുഭവസമ്പത്തിലും സങ്കീർണ്ണമായ സാമൂഹിക യാഥാർത്ഥ്യങ്ങളിലുമാണ് അധിഷ്ഠിതമായിരിക്കുന്നത്. ഇവയുടെ പിഴവുകളുടെ സ്വഭാവത്തിലും വലിയ വ്യത്യാസമുണ്ട്; AI-യുടേത് ഹാലൂസിനേഷനും തെറ്റായ വിവരങ്ങളിലുള്ള വ്യാജമായ ആത്മവിശ്വാസവുമാണെങ്കിൽ, മനുഷ്യന്റേത് പലപ്പോഴും കഠിനമായ അമിതാദ്ധ്വാനം മൂലമുള്ള ശാരീരിക-മാനസിക തളർച്ചയാണ് (Burnout). വേഗത, കാര്യക്ഷമത, വലിയ തോതിലുള്ള ഡാറ്റാ ഏകോപനം എന്നിവയാണ് AI മുന്നോട്ടുവെക്കുന്ന പ്രധാന മൂല്യങ്ങളെങ്കിൽ, കാരുണ്യം, ധാർമ്മിക ഏജൻസി എന്നിവയാണ് മനുഷ്യനായ ഡോക്ടറെ എപ്പോഴും വേറിട്ടുനിർത്തുന്നത്.
ആരോഗ്യരംഗത്തെ അഡ്മിനിസ്ട്രേറ്റീവ് ജോലികൾ കുറയ്ക്കാനും, ഇലക്ട്രോണിക് ഹെൽത്ത് റെക്കോർഡുകൾ (EHR) സംഗ്രഹിക്കാനും, മരുന്നുകൾ തമ്മിലുള്ള പ്രതിപ്രവർത്തനങ്ങൾ (drug–drug interactions) വേഗത്തിൽ കണ്ടെത്താനും AI-യ്ക്ക് വലിയ തോതിൽ സാധിക്കും. ഇത് ഡോക്ടർക്ക് മികച്ച സമയലാഭം നൽകുന്നുണ്ടെങ്കിലും, താരതമ്യേന 'സുരക്ഷിതമെന്ന്' കരുതുന്ന ഇത്തരം ജോലികളിൽ പോലും- തെറ്റായ ഒരു EHR സംഗ്രഹമോ വ്യാജമായ ഒരു മരുന്ന്-പ്രതിപ്രവർത്തനമോ രൂപപ്പെട്ടുകൊണ്ട്- 'ഹാലൂസിനേഷൻ' കടന്നുവരാം. ഈ അപകടസാധ്യത തന്നെയാണ് ചികിത്സാതീരുമാനങ്ങളുടെ അന്തിമമായ ജ്ഞാനശാസ്ത്രപരമായ ആധാരം (The Epistemic Anchor) മനുഷ്യനായ ഡോക്ടർ മാത്രമായിരിക്കണമെന്ന് നിഷ്കർഷിക്കാനുള്ള കാരണം.
ഒരു മെഡിക്കൽ ബോർഡിനുമുന്നിൽ തന്റെ ക്ലിനിക്കൽ തീരുമാനങ്ങളെ യുക്തിഭദ്രമായി ന്യായീകരിക്കാനോ, ഒരു രോഗിയുടെ കുടുംബത്തെ നേരിട്ട് കണ്ട് അവരുടെ സങ്കടത്തിൽ പങ്കുചേർന്ന് ആശ്വാസം പകരാനോ AI-യ്ക്ക് ഒരിക്കലും സാധ്യമല്ല. മനുഷ്യനായ ഡോക്ടർ ജ്ഞാനശാസ്ത്രപരമായി വിജയിക്കുന്നത് കൂടുതൽ വിവരങ്ങൾ യന്ത്രത്തെപ്പോലെ മനഃപാഠമാക്കിയത് കൊണ്ടല്ല; മറിച്ച്, രോഗി എന്നത് പരിഹരിക്കപ്പെടേണ്ട ഒരു ടെക്സ്റ്റ് പ്രോംപ്റ്റ് അല്ല, മറിച്ച് ഒരു സമൂഹത്തിന്റെ ഭാഗമായി ജീവിക്കുന്ന മനുഷ്യനാണെന്ന് ആഴത്തിൽ തിരിച്ചറിയുന്നതുകൊണ്ടാണ്.
▮
(ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസും ആരോഗ്യപരിപാലനവും എന്ന വിഷയത്തെക്കുറിച്ച് കുറച്ച് കാലങ്ങളായി എന്നോട് ദീർഘനേരം ചർച്ചകളിൽ ഏർപ്പെടുകയും അറിവുകൾ പങ്കുവെക്കുകയും ചെയ്ത ഡോ. വിജിത അരുൺ, ഡോ. കാർത്തിക കെ, ഡോ. ഫാത്തിമ എസ് എന്നിവർക്ക് പ്രത്യേക നന്ദി).
References:
1. Computational Epistemology- https://en.wikipedia.org/wiki/Computational_epistemology
2. Social Determinants of Health- https://en.wikipedia.org/wiki/Social_determinants_of_health
3. Plausibility & persuasion- https://www.nature.com/articles/s41599-026-07513-4
4. Hallucination- https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
5. Algorithmic bias- https://en.wikipedia.org/wiki/Algorithmic_bias
6. Tokenization- https://www.geeksforgeeks.org/nlp/what-is-tokenization/
7. Transformer architecture- https://aws.amazon.com/what-is/transformers-in-artificial-intelligence/
8. Attention Mechanism- https://www.ibm.com/think/topics/attention-mechanism
9. Large language models encode clinical knowledge- Singhal et al., 2023- https://www.nature.com/articles/s41586-023-06291-2
10. Pattern recognition- https://in.mathworks.com/discovery/pattern-recognition.html
11. The weirdest people in the world?- Henrich et al., 2010 - https://pubmed.ncbi.nlm.nih.gov/20550733/
12. Dissecting racial bias in an algorithm used to manage the health of populations - Obermeyer et al., 2019 - https://pubmed.ncbi.nlm.nih.gov/31649194/
13. Social Construction of Knowledge- https://link.springer.com/chapter/10.1007/978-3-663-05852-6_9
14. Commission on Social Determinants of Health, 2005-2008 - https://www.who.int/teams/social-determinants-of-health/equity-and-health/world-report-on-social-determinants-of-health-equity/commission-on-social-determinants-of-health
15.Syndemics and the biosocial conception of health - Singer, 2009 - https://pubmed.ncbi.nlm.nih.gov/28271845/
16. Western guidelines or practice algorithms?—Yorkshire Pudding or Dal Makhni! - Mishra S, 2016 - https://pmc.ncbi.nlm.nih.gov/articles/PMC5143804/
17. Unintended consequences of machine learning in medicine? - Cabitza et al., 2017- https://pmc.ncbi.nlm.nih.gov/articles/PMC5701440/
18. Implementing Machine Learning in Health Care - Addressing Ethical Challenges - Char et al., 2018 - https://pubmed.ncbi.nlm.nih.gov/29539284/
19. Preserving clinical skills in the age of AI assistance- Berzin & Topol, 2024 - https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(25)02075-6/abstract
20. Neuro-symbolic AI- https://en.wikipedia.org/wiki/Neuro-symbolic_AI
21. Explainable artificial intelligence- https://en.wikipedia.org/wiki/Explainable_artificial_intelligence