ইন্দ্রিয়তন্ত্র/কম্পিউটার মডেল/দক্ষ কোডিং

দক্ষ কোডিং

কেন আমাদের দক্ষ কোডিং প্রয়োজন?

যেমনটি ইতিমধ্যেই বর্ণিত হয়েছে, তথ্য ব্যাখ্যা করার জন্য ভিজ্যুয়াল কর্টেক্সে ভিজ্যুয়াল সিগন্যাল প্রক্রিয়াজাত করা হয়। ভিজ্যুয়াল তথ্য কীভাবে প্রক্রিয়াজাত করা হয় তা বোঝার পরে, প্রশ্ন ওঠে যে তথ্য কীভাবে কোড করা যেতে পারে।

ইনপুট ডেটা পরিমাণ

বিশেষ করে দৃষ্টি ব্যবস্থায়, ডেটার পরিমাণ বিশাল: রেটিনা প্রায় 10¹⁰ বিট/সেকেন্ড অনুভব করে, যা থেকে প্রায় 3-6 * 10⁶ বিট/সেকেন্ড প্রতিটি অপটিক্যাল স্নায়ুর মাধ্যমে প্রায় 1 মিলিয়ন অ্যাক্সন দ্বারা প্রেরণ করা হয়। ফলাফল হল যে V1 এর স্তর IV-তে মাত্র ১০^৪ বিট/সেকেন্ড পৌঁছায়। যেহেতু অনুমান করা হয় যে চেতনার ক্ষমতা <= ১০০ বিট/সেকেন্ড^১, তাই ডেটার পরিমাণ হ্রাস করা কেবল যথেষ্ট নয়, প্রয়োজনীয়ও।

প্রক্রিয়াকরণের গতি এবং নির্ভুলতা

মানুষের ক্ষেত্রে, স্নায়ু কোষগুলি প্রায় 0.2 Hz থেকে 10 Hz হারে অগ্নিসংযোগ করে। তথ্যের কোডিং সঠিক সময় এবং ফায়ারিংয়ের ফ্রিকোয়েন্সির উপরও নির্ভর করে। প্রক্রিয়াকরণকে আরও কঠিন করে তুলতে নেটওয়ার্ককেও শব্দের সাথে মোকাবিলা করতে হয়: রেটিনাল শব্দ, অর্থাৎ, "রেটিনার ফটোরিসেপ্টরের বৈদ্যুতিক সংকেতে স্বতঃস্ফূর্ত ওঠানামা" , রডগুলিতে রোডোপসিনের তাপীয় পচনের মাধ্যমে উদ্ভূত হয় যা "যা রডের উপর আলো পড়লে এবং একটি কোয়ান্টাম শোষিত হলে ঘটে যাওয়া ঘটনা থেকে আলাদা করা যায় না" এবং আণবিক উৎপত্তির অসুবিধাগুলির মধ্যেও দেখা দেয়। যুক্তি দেওয়া হয় যে স্নায়ু কোষের সিন্যাপসে র্যান্ডম কার্যকলাপের ফলে অতিরিক্ত ক্রিয়া সম্ভাবনা তৈরি হয়, যা কেন্দ্রীয় স্নায়ুতন্ত্রের শব্দের চেয়ে রেটিনার শব্দ দৃশ্যমান সংবেদনশীলতাকে অনেক বেশি সীমাবদ্ধ করে।

শক্তি খরচ

প্রতিটি স্নায়ু কার্যকলাপের জন্য শক্তির প্রয়োজন: মস্তিষ্ক বিশ্রামকালীন বিপাকের প্রায় ২০% ব্যবহার করে। প্রতি সেকেন্ডে প্রতি নিউরনে একটি ক্রিয়া সম্ভাবনা বৃদ্ধি পেলে অক্সিজেন খরচ ১৪৫ মিলি/১০০ গ্রাম ধূসর পদার্থ/ঘন্টা বৃদ্ধি পাবে। মানুষের রক্ত ​​সঞ্চালন ব্যবস্থা প্রতি মিনিটে প্রায় ১.৫ লিটার রক্ত ​​সরবরাহ করে যা মস্তিষ্ককে শক্তি এবং অক্সিজেন সরবরাহ করে। "সক্রিয় কোষে ৪ হার্জের ক্রিয়া বিভব ফ্রিকোয়েন্সির জন্য, একটি অবস্থা এনকোড করার জন্য নিউরনের একটি সেটের প্রায় ১৫% একই সাথে সক্রিয় থাকা উচিত"।

সমাধান

গতি, নির্ভুলতা এবং উপলব্ধ শক্তিতে সীমিত স্নায়ুতন্ত্র দ্বারা বিপুল পরিমাণ ডেটা প্রক্রিয়াকরণের পরিস্থিতি মোকাবেলা করার জন্য, দক্ষ কোডিং প্রয়োজন।

শ্রবণ ব্যবস্থায়, মানুষের (মৌখিক) যোগাযোগের মূল কাঠামো হল ধ্বনি, অর্থাৎ ভাষার স্বতন্ত্র মৌলিক শব্দ উপাদান যা একটি শব্দকে অন্য শব্দ থেকে আলাদা করে। উদাহরণস্বরূপ, "চোখ" শব্দটি কেবল একটি ধ্বনি, /ai/ নিয়ে গঠিত, যেখানে "কোড" শব্দটিতে /k/, /ə/, /ʋ/, /d/ ধ্বনি রয়েছে।

একইভাবে, ভিজ্যুয়াল সিস্টেমের জন্য, একটি দক্ষ কোডে মৌলিক উপাদান হিসেবে চিত্র কাঠামো থাকবে যা সংবেদিত পরিবেশ (অর্থাৎ চিত্র) উপস্থাপন করার জন্য একত্রিত করা যেতে পারে।ভিজ্যুয়াল পারসেপটিভ ফিল্ডের মৌলিক বৈশিষ্ট্যগুলি সংরক্ষণ করে এমন একটি মডেল হিসেবে, ওলশাউসেন এবং ফিল্ড একটি অপ্টিমাইজেশান অ্যালগরিদম প্রস্তাব করেছিলেন যা ছবির তথ্য সংরক্ষণের সময় একটি স্পার্স কোড খুঁজে বের করে।

প্রযুক্তিগত প্রদর্শন

এনকোডিং এবং ডিকোডিং প্রক্রিয়া

তথ্য সংকোচনের নীতিটি "k-means" পদ্ধতির মাধ্যমে সুন্দরভাবে প্রদর্শন করা যেতে পারে, যা (2-মাত্রিক) ছবিতে প্রয়োগ করা হয়। এটি পাইথন লাইব্রেরির অংশ হিসাবে বাস্তবায়িত হয় scikit-image. চিত্র ১-এ দেখানো ধারণাটি হল একটি ছবি বা তথ্যকে সাধারণভাবে সংকুচিত করা, প্রক্রিয়াজাত করা এবং পরে, এটিকে আবার রূপান্তর করা। প্রক্রিয়াকরণের ধাপটি এইভাবে অনেক বেশি দক্ষ এবং জৈবিক ব্যবস্থায় বিদ্যমান পদ্ধতিগুলির বিপরীতে, লসলেস কম্প্রেশন পদ্ধতিও রয়েছে, যেমন, তরঙ্গ, যা সঠিক ব্যাক ট্রান্সফর্মেশনের অনুমতি দেয়।

জৈবিক ব্যবস্থার জন্য লসলেস কম্প্রেশনের প্রয়োজন হয় না। তথ্যের ক্ষতি scikit-learn এবং youtube-এ পূর্বে উল্লিখিত k-মানে অ্যালগরিদমের একটি উদাহরণ দিয়ে দেখানো হয়েছে।

ভূমিকা

1990-এর দশকের শেষের দিকে এবং 21 শতকের শুরুতে ব্রুনো ওলশাউসেন এবং মাইকেল লুইকি যথাক্রমে প্রাকৃতিক চিত্রগুলি কীভাবে তৈরি হয় তা অধ্যয়ন করেছিলেন এবং প্রাকৃতিক শব্দ মস্তিষ্ক দ্বারা এনকোড করা হয় এবং এমন একটি মডেল তৈরি করার চেষ্টা করা হয় যা এই প্রক্রিয়াটিকে যতটা সম্ভব নির্ভুলভাবে প্রতিলিপি করবে। দেখা গেছে যে উভয় ইনপুট সংকেতের প্রক্রিয়া একই পদ্ধতিতে মডেল করা যেতে পারে। দক্ষ কোডিং তত্ত্বের লক্ষ্য হল পরিসংখ্যানগতভাবে স্বাধীন বৈশিষ্ট্যের একটি সেট ব্যবহার করে একটি উদ্দীপক সম্পর্কে সর্বাধিক পরিমাণে তথ্য গোপন করা। প্রাকৃতিক চিত্রের দক্ষ কোডিং স্থানীয়, ওরিয়েন্টেড গ্যাবর তরঙ্গ-সদৃশ ফিল্টারের একটি জনসংখ্যার মাধ্যমে তৈরি হয়^,। গ্যামাটোন ফিল্টারগুলি শ্রবণ ব্যবস্থার জন্য এর সমতুল্য। একটি ছবিতে আকারগুলি আলাদা করার জন্য সবচেয়ে গুরুত্বপূর্ণ বৈশিষ্ট্য হল প্রান্ত সনাক্তকরণ, যা গ্যাবর ফিল্টার দিয়ে অর্জন করা হয়। শব্দ প্রক্রিয়াকরণে, শব্দের সূত্রপাত বা 'অ্যাকোস্টিক প্রান্ত' একটি গ্যামাটোন ফিল্টারব্যাঙ্কের অনুরূপ ফিল্টারগুলির একটি পুল দ্বারা এনকোড করা যেতে পারে।

ভিশন

১৯৯৬ সালে, ব্রুনো ওলশাউসেন এবং তার দল প্রথম একটি লার্নিং অ্যালগরিদম তৈরি করেছিলেন যার লক্ষ্য ছিল প্রাকৃতিক চিত্রের জন্য স্পার্স রৈখিক কোড খুঁজে বের করা এবং স্পার্সনেস সর্বাধিক করে স্থানীয়, ওরিয়েন্টেড, ব্যান্ডপাস রিসেপ্টিভ ফিল্ডের একটি গ্রুপ তৈরি করা, যা প্রাথমিক ভিজ্যুয়াল কর্টেক্সে পাওয়া যায় এর অনুরূপ।

তারা ধরে নিতে শুরু করেন যে একটি চিত্র $I(x,y)$ কে বেস ফাংশনের একটি রৈখিক সুপারপজিশন হিসাবে চিত্রিত করা যেতে পারে, $\phi _{i}(x,y)$:

$I(x,y)=\sum _{i}a_{i}\phi _{i}(x,y)$

প্যারামিটারগুলি $\phi _{i}(x,y)$ কোন বেস ফাংশনগুলি বেছে নেওয়া হয়েছে তার উপর নির্ভর করে এবং প্রতিটি চিত্রের জন্য আলাদা। দক্ষ কোডিংয়ের উদ্দেশ্য হল $\phi _{i}(x,y)$ এর একটি পরিবার খুঁজে বের করা যা "ছবির স্থান বিস্তৃত করে" এবং "যতটা সম্ভব পরিসংখ্যানগতভাবে স্বাধীন প্যারামিটার $a_{i}$ অর্জন করে"।

প্রাকৃতিক দৃশ্যে পরিসংখ্যানগত কাঠামোর অনেক উচ্চ-ক্রমের রূপ রয়েছে যা অ-গাউসিয়ান এই দুটি উদ্দেশ্য অর্জনের জন্য প্রধান উপাদান বিশ্লেষণ ব্যবহার করা অনুপযুক্ত হবে। বিভিন্ন প্যারামিটারের মধ্যে পরিসংখ্যানগত নির্ভরতা সনাক্ত করা যেতে পারে যখন জয়েন্ট এনট্রপি পৃথক এনট্রপির যোগফলের চেয়ে কম হয়:

$H(a_{1},a_{2},...,a_{n})<sum_{i}H(a_{i})$

Entropy এখানে Shannon entropy কে বোঝানো হয়েছে Shannon entropy, যা একটি চলকের প্রত্যাশিত মান (গড়)। joint entropy হল চলকের একটি সেটের সাথে সম্পর্কিত অনিশ্চয়তার একটি পরিমাপ। ধারণা করা হয় যে প্রাকৃতিক চিত্রগুলির একটি 'বিচ্ছিন্ন কাঠামো' থাকে, যার অর্থ চিত্রটি একটি বৃহত্তর সেটের মধ্যে অল্প পরিমাণে বৈশিষ্ট্যের ফাংশনে প্রকাশ করা যেতে পারে^,। উদ্দেশ্য হল একটি কোড কমানোর এনট্রপি অনুসন্ধান করা, যেখানে প্রতিটি প্যারামিটারের সম্ভাব্যতা বন্টন একমুখী এবং শূন্যের কাছাকাছি থাকে। এটি একটি অপ্টিমাইজেশন সমস্যা হিসাবে স্পষ্ট করা যেতে পারে:

$E=-[{\text{তথ্য সংরক্ষণ করুন}}]-\lambda [{\text{বিচ্ছিন্নতা }}a_{i}]$

যেখানে $\lambda$ হল ধনাত্মক ওজন সহগ। প্রথম পরিমাণটি প্রাকৃতিক চিত্র এবং পুনর্গঠিত চিত্রের মধ্যে গড় বর্গ ত্রুটি মূল্যায়ন করে।

$[{\text{preserve information}}]=-\sum _{x,y}[I(x,y)-\sum _{i}a_{i}\phi _{i}(x,y)]^{2}$

দ্বিতীয় পরিমাণটি উচ্চতর খরচের জন্য দায়ী করা হয় যদি একটি প্রদত্ত ছবির জন্য diবিভিন্ন প্যারামিটারগুলি বিক্ষিপ্তভাবে বিতরণ করা হয়। এটি একটি অরৈখিক ফাংশন $S(x)$-এ প্লাগ করা প্রতিটি সহগের কার্যকলাপ যোগ করে গণনা করা হয়।

$[{\text{sparseness of }}a_{i}]=-\sum _{i}S\left({\frac {a_{i}}{\sigma }}\right)$

যেখানে $\sigma$ একটি স্কেলিং ধ্রুবক। $S(x)$-এর জন্য, ফাংশনগুলি সমান বৈচিত্র্য সহ অ্যামিড অ্যাক্টিভিটি স্টেটগুলিকে সমর্থন করে যাদের সর্বনিম্ন অ-শূন্য প্যারামিটার রয়েছে (যেমন $-e^{-x^{2}}$, $log(1+x^{2})$, $\left\vert x\right\vert$)।

$E$-এর উপর মোট খরচ কমিয়ে শেখা সম্ভব। $\phi _{i}$ একাধিক চিত্রের বৈচিত্র্যের উপর গড়ে $E$ এর গ্রেডিয়েন্ট অবতরণ দ্বারা একত্রিত হয়। অ্যালগরিদমটি বেস ফাংশনগুলিকে মাত্রা অনুসারে অসম্পূর্ণ এবং অ-অর্থোগোনাল , স্পার্সনেসের অবস্থা হ্রাস না করে।

শিক্ষণ প্রক্রিয়ার পরে, অ্যালগরিদমটি কৃত্রিম ডেটাসেটগুলিতে পরীক্ষা করা হয়েছিল, যা নিশ্চিত করে যে এটি ডেটাতে স্পার্স কাঠামো সনাক্ত করার জন্য উপযুক্ত। বেস ফাংশনগুলি বিভিন্ন স্থানিক স্কেলের জন্য ভালভাবে স্থানীয়, ওরিয়েন্টেড এবং নির্বাচনী। প্রতিটি অবস্থানের দাগগুলিতে প্রতিটি $a_{i}$ এর প্রতিক্রিয়া সাজানো গ্রহণযোগ্য ক্ষেত্র এবং বেস ফাংশনের মধ্যে একটি সাদৃশ্য প্রতিষ্ঠা করে। সমস্ত বেস ফাংশন একসাথে একটি সম্পন্ন চিত্র কোড গঠন করে যা তরঙ্গায়িত কোডের অনুরূপভাবে স্থানিক অবস্থান, ওরিয়েন্টেশন এবং স্কেলের যৌথ স্থানকে বিস্তৃত করে।

উপসংহারে, ওলশাউসেনের দলের ফলাফল দেখায় যে স্থানীয়, ওরিয়েন্টেড, ব্যান্ডপাস গ্রহণযোগ্য ক্ষেত্রের উত্থানের জন্য দুটি পর্যাপ্ত উদ্দেশ্য হল "তথ্য সংরক্ষণ করা হোক" এবং "প্রতিনিধিত্ব বিক্ষিপ্ত হোক"।

শ্রবণ

Fig.1: Time–frequency analysis. (a) The filters in a Fourier transform are localized in frequency but not in time. (b) Wavelet filters are localized in both time and frequency. (c–e) The statistical structure of the signals determines how the filter shapes derived from efficient coding of the different data ensembles are distributed in time–frequency space. Each ellipse is a schematic of the extent of a single filter in time–frequency space. (c) Environmental sounds. (d) Animal vocalizations. (e) Speech.

২০০২ সালে ওলশাউসেনের পর লুইকি তার গবেষণাপত্র প্রকাশ করেন। তিনি পূর্ববর্তী গবেষণাপত্র থেকে অনুপ্রাণিত হয়ে বিভিন্ন শ্রেণীর প্রাকৃতিক শব্দ, যেমন প্রাণীর কণ্ঠস্বর, পরিবেশগত শব্দ এবং মানুষের বক্তৃতার জন্য দক্ষ কোড বের করার জন্য দক্ষ কোডিং তত্ত্ব পরীক্ষা করেন।

তারা "স্বাধীন উপাদান বিশ্লেষণ (ICA)" ব্যবহার করেন, যা পারস্পরিক সম্পর্ক এবং উচ্চ-ক্রমের পরিসংখ্যানগত নির্ভরতা হ্রাস করে সংকেতের রৈখিক পচন নিষ্কাশন সক্ষম করে। । এই শেখার অ্যালগরিদমটি প্রতিটি ডেটা সেটের জন্য একটি ফিল্টার তৈরি করে, যা একটি সময়-ফ্রিকোয়েন্সি উইন্ডোর আকারে ব্যাখ্যা করা যেতে পারে। ফিল্টারের আকৃতিটি এনসেম্বলের পরিসংখ্যানগত কাঠামো দ্বারা নির্ধারিত হয় ।

বিভিন্ন নমুনা শব্দের উপর প্রয়োগ করা হলে, পদ্ধতিটি পরিবেশগত শব্দের জন্য তরঙ্গের মতো সময়-ফ্রিকোয়েন্সি উইন্ডো সহ ফিল্টার তৈরি করে যেখানে শব্দ সময় এবং ফ্রিকোয়েন্সি উভয় ক্ষেত্রেই স্থানীয়করণ করা হয় (চিত্র 1c)। প্রাণীর কণ্ঠস্বরের জন্য ফুরিয়ার ট্রান্সফর্মের মতো একটি টাইলিং প্যাটার্ন পাওয়া যায় যেখানে শব্দ ফ্রিকোয়েন্সিতে স্থানীয় হয় কিন্তু সময়ের মধ্যে নয় (চিত্র 1d)। বক্তৃতা উভয়ের মিশ্রণ ধারণ করে যার ওজন পরিবেশগত এবং প্রাণীর শব্দের 2:1 (চিত্র 1e)। এর কারণ হল বক্তৃতা সুরেলা স্বর এবং অ-সুরেলা ব্যঞ্জনবর্ণ দ্বারা গঠিত। এই প্যাটার্নগুলি পূর্বে প্রাণী এবং মানুষের মধ্যে পরীক্ষামূলকভাবে পর্যবেক্ষণ করা হয়েছে ।

এই তিন ধরণের শব্দের মূল পার্থক্যগুলি ভেঙে ফেলার জন্য, লেউইকির দল ব্যান্ডউইথ, ফিল্টার তীক্ষ্ণতা এবং টেম্পোরাল এনভেলপ বিশ্লেষণ করেছে। পরিবেশগত শব্দের কেন্দ্র ফ্রিকোয়েন্সির কার্যকারিতা হিসেবে ব্যান্ডউইথ বৃদ্ধি পায়, যেখানে প্রাণীর কণ্ঠস্বরের ক্ষেত্রে এটি স্থির থাকে। বক্তৃতাও বৃদ্ধি পায় কিন্তু পরিবেশগত শব্দের তুলনায় কম। সময়/ফ্রিকোয়েন্সি লেনদেনের কারণে টেম্পোরাল এনভেলপ বক্ররেখা একইভাবে আচরণ করে। শারীরবৃত্তীয় পরিমাপের কেন্দ্র ফ্রিকোয়েন্সির সাথে তীক্ষ্ণতার তুলনা করার সময় ^, সম্মিলিত শব্দ সমষ্টির তীক্ষ্ণতা সহ বক্তৃতা তথ্য থেকে, বো-এর মধ্যে সামঞ্জস্যজটিলতা নিশ্চিত করা হয়েছে।

এটা অবশ্যই লক্ষ্য করা উচিত যে এই বিশ্লেষণ পরিচালনা করার জন্য বেশ কয়েকটি আনুমানিকতা প্রয়োজন ছিল। শব্দের তীব্রতার তারতম্য অন্তর্ভুক্ত করার জন্য তাদের বিশ্লেষণ বাদ দেওয়া হয়েছে। শ্রবণ ব্যবস্থা নির্দিষ্ট তীব্রতার সীমা মেনে চলে যার অনুসারে ফ্রিকোয়েন্সি নির্বাচন করা হয় । তবে, যে শারীরবৃত্তীয় পরিমাপের সাথে এই পরিমাপগুলি তুলনা করা হয়, সেগুলি বিচ্ছিন্ন বিশুদ্ধ স্বর ব্যবহার করে তৈরি করা হয়, যা পরিভাষায় এই মডেলের প্রয়োগের পরিমাণ সীমিত করে কিন্তু এটিকে অসম্মান করে না। তাছাড়া, ফিল্টারের সময়ের প্রতিসাম্য শারীরবৃত্তীয়ভাবে চিহ্নিত 'গামা-টোন ফিল্টার'-এর সাথে মেলে না। অ্যালগরিদমকে কার্যকারণ হিসাবে পরিবর্তন করা সম্ভব এবং ফিল্টারের টেম্পোরাল এনভেলপগুলি তখন গামা-টোন ফিল্টারের মতোই অসমমিত হয়ে যাবে।

h3>উপসংহার

এই দুটি সিস্টেমের মধ্যে একটি সাদৃশ্য রয়েছে যা পৃষ্ঠতলে আসে। ভিজ্যুয়াল কর্টেক্সের নিউরন দ্বারা ভিজ্যুয়াল স্টিমুলির অবস্থান এবং স্থানিক ফ্রিকোয়েন্সি এনকোড করা হয়। এই দুটি ভেরিয়েবলের মধ্যে সমন্বয় শ্রবণ কোডিংয়ের সময় এবং ফ্রিকোয়েন্সির মধ্যে অনুরূপ।

এই সমান্তরালের আরেকটি আকর্ষণীয় দিক হল কেন ICA শ্রবণ ব্যবস্থায় বিশ্লেষণের প্রাথমিক পর্যায়ে স্নায়বিক প্রতিক্রিয়া বৈশিষ্ট্যগুলি ব্যাখ্যা করে, যখন এটি ভিজ্যুয়াল সিস্টেমে কর্টিকাল নিউরনের প্রতিক্রিয়া বৈশিষ্ট্যগুলি ব্যাখ্যা করে। এটি অবশ্যই উল্লেখ করা উচিত যে উভয় সিস্টেমের নিউরোনাল অ্যানাটমি ভিন্ন। ভিজ্যুয়াল সিস্টেমে অপটিক স্নায়ুতে একটি বাধা দেখা দেয়, যেখানে 100 মিলিয়ন ফটোরিসেপ্টর থেকে তথ্য 1 মিলিয়ন অপটিক স্নায়ু তন্তুতে ঘনীভূত হয়। তারপর তথ্যটি কর্টেক্সে 50 এর গুণক দ্বারা ছড়িয়ে পড়ে। শ্রবণ ব্যবস্থায় কোনও বাধা দেখা দেয় না এবং 3000 কক্লিয়ার অভ্যন্তরীণ চুলের কোষ থেকে তথ্য সরাসরি 30000 শ্রবণ স্নায়ু তন্তুতে জোর দেয়। ICA আসলে উপস্থাপনার সম্প্রসারণ বিন্দুতে নির্ধারিত হয়।

তথ্যসূত্র

Ajmain Istheak (আলাপ) ০৭:৩৫, ২০ মে ২০২৫ (ইউটিসি)