روزنوشته‌های یک توسعه‌دهنده

ادغام [از سم آلتمن]

۱۱ دیدگاه‌ها

سم آلتمن، در حال حاضر پرزیدنت وای کامبینیتور هست، وای کامبینیتور احتمالا بزرگترین و موفق‌ترین بنیاد سرمایه‌گذاری خطرپذیری هست که در جهان وجود داره با سبد سهامی که هرسرمایه گذار خطرپذیری احتمالا حسرتش رو داره. آقای آلتمن در کنار پیتر ثیل و ایلان ماسک و خیلی از نام‌های بزرگ دیگه قرار میگیره. این نوشته ترجمه‌ای آزاد از اخرین مطلب بلاگ آقای التمن هست. تو وبلاگ تاحالا مطلب ترجمه شده نداشتیم و از از این به بعد هم نخواهیم داشت، اما ازاونجا که در مورد هوش مصنوعی بازورد زیاد شده، حس کردم اگر چند کلمه از زبون کسی بشنویم که خودش تو خط مقدم دستاش کثیف کار شده، مفیدتر از شنیدن حرفهای “بلاگرها” باشه.


بحث محبوب این روزهای سیلیکن ولی صحبت درباره‌ی زمانی هست که ماشین‌ها و انسان‌ها قراره در هم ادغام بشن( یا اگر نه ماشین‌ها قراره از نظر هوشی از انسان‌ها پیشی بگیرند یا حداقل یگ گونه‌ی ژنتیکی ارتقا یافته قراره ساخته بشه). به نظر میرسه که بیشتر بحث‌ها حول و حوش ۲۰۲۵ و ۲۰۷۵ رو پیشبینی میکنند.

مردم عادت داشتند که اسم این موضوع رو سینگولاریتی بذارن، اما الان این اتفاق انقدر نزدیک و انقدر واقعی به نظر میرسه که دیگه خیلی ها نمیخوان و براشون خوشایند نیست که اسمی روش بگذارند.

احتمالا یک دلیل دیگه برای این که مردم استفاده از واژه‌ی سینگولاریتی رو متوقف کردن اینه که واژه‌ی سینگولاریتی انگار که به یک لحظه‌ی خاص از زمان تاکید میکنه،اما با چیزی که الان داریم به نظر میرسه که ادغام یک فراید مرحله به مرحله هست و فرایند‌های مرحله به مرحله سخت تشخیص داده میشن.

من فکر میکنم که ادغام همین حالا هم اغاز شده، و ما چندساله که داخل این پروسه‌ایم. تلفن‌های ما مارو کنترل میکنند وبه ما میگند که چه کاری رو چه زمانی انجام بدیم، شبکه‌های اجتماعی در مورد احساسات ما تصمیم میگیرند و موتورهای جستجو تصمیم میگیرند که ما چطور باید فکر کنیم.

الگوریتم های پشت این اتفاق‌ها به زودی توسط هیچ “یک نفر”ی قابل درک نخواهند بود. اون ها بهینه میشن در مسیرهایی که سازندگانشون ازشون میخوان اما طوری بهینه میشن که هیچ انسانی نمیتونه بفهمه چه اتفاقی افتاده(الگوریتم هایی که امروز هوش مصنوعی‌های خیلی پیچیده به نظر میرسند و فرداها شبیه اسباب بازی بچه‌ها خواهند).

دست کم اگر از تجربه‌ی خودم بخوام صحبت کنم،‌ من زمان سختی رو گذروندم تا درمقابل کارهایی که الگوریتم‌ها از من میخوان انجام بدم مقاومت کنم.اما دقیقا وقتی که تصمیم گرفتم که یک تلاش واقعی انجام بدم و جلوی این موضوع رو بگیرم متوجه شدم که شدیدا اعتیاد پیدا کردم و نمیتونم خودم رو رها کنم.

ما با هوش مصنوعی در حال یک تکامل دوطرفه‌ و هم زمانیم، هوش مصنوعی رو زندگی های ما اثر مثبت و منفی میذاره، زندگی‌های مارو آلوده میکنه و  از طرف دیگه ما به شکل همزمان هوش مصنوعی رو ارتقا میدیم. ما توان کامپیوتری بیشتری میسازیم تا هوش مصنوعی روش زندگی کنه و اون به ما کمک میکنه تا بفهمیم که چطور میتونیم توان کامپیوتری بهتر و چیپ‌ها بهنیه تری بسازیم و این چرخه ادامه داره.

احتمالا کسی نمیتونه جلوی این چرخه رو بگیره، اونچه که ما از تاریخ علم یاد گرفتیم اینه که علم تا زمانی که قانون های فیزیک جلوش رو نگیرند پیشرفت خواهد کرد.

از همه این ها مهمتر، اگر ما خودمون رو تا اون زمان نابود نکرده باشیم، ابرانسان‌های برپایه هوش مصنوعی بوجود خواهند اومد، بهبود بخشی‌های ژنتیکی اتفاق خواهند افتاد، رابط بین مغز و ماشین ساخته خواهد شد. این شکست تخیل انسان و از خودبزرگ پنداریمون خواهد بود اگر فکر کنیم که انسان هیچوقت نمیتونه چیزی بهتر از خودش بسازه.

ارزشی که ما برای خودمون قائلیم شدیدا برپایه‌ی هوشیه که ما فکر میکنیم یکتاست و ما رو از گونه‌های قبل از ما متمایز میکنه. احتمالا هوش مصنوعی هم همینطور که ما در مورد میمونها فکر میکنیم در مورد ما فکر خواهد کرد.

ادغام میتونه به گونه‌های متفاوتی اتفاق بیفته، ممکنه دوتا الکترود تو مغزمون فرو کنیم یا مثلا با یه چت بات واقعا رفیق بشیم، اما حقیقتا من فکر میکنم ادغام چیزیه که با نگاه کردن به نیمه‌ی پر لیوان به ذهنمون میرسه و داستان میتونه سوی تاریکی هم داشته باشه.

اگر دو تا گونه‌ی متفاوت داشته باشیم و هردو در یک لحظه یک چیز رو بخوان و فقط یکی از اون‌ها بتونه اون رو داشته باشه( تو این مورد در دست داشتن کنترل زمین) اون دو گونه با هم به مشکل برخواهند خورد.این خوب نیست. ما باید حالتی رو بخوایم که هممون یک تیم خواهیم بود و برای بقای هم دیگه اهمیت قائلیم.

اگرچه ادغام همین حالا هم اغاز شده اما قرار خیلی چهره‌ی عجیب غریب تری به خودش بگیره، ما قراره اولین گونه‌ای باشیم که گونه‌ی بعدی و برتر از خودش رو طراحی میکنه، حدس شخصی من اینه که در اینده ما(گونه‌ی انسان) به عنوان مقدمه‌ای بر ظهور هوش دیجیتال در نظر خواهیم گرفته شد و بعد در یکی از شاخه‌های تکامل محو میشیم  یا میتونیم بفهمیم که چطوری خودمون رو در ماشین‌ها ادغام کنیم و از این نابودی فرار کنیم.

این اتفاقات احتمالا زودتر از اونچه که بیشتر مردم فکرش رو میکنند اتفاق خواهد افتاد. سخت‌افزار با یک نرخ نمایی رشد میکنه(چیزی که از کار در openAIیاد گرفتم -موسس این بنیاد غیر انتفاعی ایلان ماسک هست- این است که چقدر نرخ رشد هوش مصنوعی به نرخ رشد سخت افزار گره خورده) همچنین، تعداد انسان‌های باهوشی که دارن روی هوش مصنوعی کار میکنند با یک نرخ نمایی در حال رشد هست. این یعنی دوبرابر شده سرعت رشد و زودتر از اونچه که فکرش رو بکنیم به ما خواهد رسید و ازما رد خواهد شد.

به نظرم این برای دنیا خوب خواهد بود که شروع به صحبت در این باره بکنند، خیلی بیشتر و خیلی جدی تر. هماهنگی در سطح بین الملل چیزی نیست که سریع اتفاق بیافته و ما برای مواجهه با این مساله بهش نیاز داریم.


چندتا نکته:

سم تو پانویس همین نوشته تاکید میکنه که هک توجه، اعتیاد به شکر نسل جدیده. میگه من خودم یادمه روزهایی رو که یه چیزی داشتم به اسم بازه‌ی تمرکز(attention span ) و حالا بچه‌های دوستام رو که نگاه میکنم میبینم که اصلا نمیدونن یه چیزی وجود داشته و اون‌ها از دستش دادند.

به عنوان کسی که خیلی به این موضوع اهمیت میده، درباره‌ش نوشته، حداقل تلاشش رو  انجام داده و انتخاب شخصی کرده، به نظرم ما این جنگ رو باختیم. ما جنگ توجه رو باختیم و تلاش برای این که جلوش وایستیم مثل اینه که سعی کنیم با جارو جلوی جریان دریا رو بگیریم. اما نکته‌ی خوشحال کننده‌ای که وجود داره اینه که ما هنوز میتونیم  انتخاب‌های شخصی داشته باشیم تو این زمینه و خودمون رو از اکثریت جدا کنیم. یه لیست از ادم‌خفن‌هایی که گوشی ندارند دارم جمع میکننم، شاید یه روزی منتشر کردم.

راستی، قبلا تو وبلاگ با حوصله تر از آقای آلتمن در این باره نوشتم، در این پست:

 مغز تکاپوی طبیعت برای ایجاد خودآگاهی بوده است. ما جهان را با مغزمان میفهمیم. مغز همه آن‌چیزی است که تاریخ را و پیشرفت بشریت را شکل داده. حال اگر ما بتوانیم آن را بشناسیم چه اتفاقی می‌افتد؟ یک انقلاب جدید. احتمالا آخرین انقلابی که گونه‌ی انسان شاهدش خواهد بود. انقلاب صنعتی اکستند کردن عضلاتمان بود و همین تغییر نه چندان بزرگ مسیر تاریخ را تغییر داد. انقلاب بعدی اکستند کردن مغزمان خواهد بود. برای این که تصور بهتری از این که چه اتفاقی خواهد افتاد داشته باشید، مقایسه کنید قدرت و استقامت حرکت یک قطار را با یک قدرت و استقامت حرکت یک انسان پیاده. حالا فرض کنید بتوانیم  مغزی بسازیم که تفاوت عملکردش با مغز خودمان اندازه‌ی تفاوت عملکرد پاهایمان با قطار باشد؟ چه اتفاقی می افتد؟

احتمالا پایان بشریت. احتمال الف) آن موجود با آن خودآگاهی وحشتناکش مارا در باغ وحشی میگذارد تا خوش باشیم ، مشابه کاری که ما با موجوداتی که خودآگاهی پایین تری نسبت به ما دارند انجام میدهیم(میمونها مثلا) ب) ما مغزمان را به مغزش پیوند میکنیم و تبدیل به گونه‌ی جدیدی میشویم که دیگر انسان نیست و در هر صورت این به معنای پایان بشریت خواهد بود.

یک موضوع تلخ در مورد خودآگاهی هم این هست که ما میتونیم خودآگاهی‌های پایین‌تر از خودمون رو درک کنیم، اما از درک خودآگاهی‌های بالاتر ناتوانیم. همونطور که یه سنگ نمیتونه بفهمه که یه مورچه بیشتر از اون میفهمه، یا همونطور که یه شامپانزه نمیتونه بفهمه یک انسان‌ خودآگاهی بیشتری از اون داره، احتمالا ما هم نمیتونیم نسبتمون با چیزی که داریم میسازیم رو بفهمیم و این میتونه یکم اوضاع رو خطرناک کنه.

کافیه به تاریخ نگاه کنیم و ببینیم که با انسان‌هایی که خیلی خیلی اندک از کل جمعیت خودآگاهی بیشتر و قدرتمندتری داشتند، چه کار کردیم، این میتونه ماکتی باشه از اون اوضاع نا به سامانی که ممکنه اتفاق بیفته.

سرعت حرکت این داستان خیلی خیلی خیلی خیلی خیلی زیادتر از اونچه هست که به نظر میرسه و متاسفانه نه تنها سرعت خودش بلکه شتابش (سرعت رشدش) هم حتا خیلی زیاده، نتیجتا تا ما به خودمون بیایم، موج اومده و از رومون رد شده، ادم‌هایی در سیلیکن ولی نگران اوضاع جهانند و ببینید ما چقدر باید نگران اوضاع این مسئله باشیم. مخصوصا وقتی اخیرا پوتین در این باره صحبت کرده، امارات وزیر هوش مصنوعی منصوب کرده و ما داریم سعی میکنیم بیت کوین رو دولتی کنیم.

 

این متن یک بار ترجمه شد اما از دست رفت و دوباره نوشته شد، روان و دقیق نیست. ترجیحا شما هم دوبار بخونیدش:).



برچسب‌ها:

دیدگاه‌ها

  1. یحیی می‌گه:

    تو لیست ادم خفن‌هایی که گوشی ندارن من نیستم 🙂

    1. Sadra می‌گه:

      یه چالش بذاریم، بندازیم کنار این “شت” رو.

    2. علی می‌گه:

      پس قطعن تو لیست آدم خفن هایی که گوشی دارن هستی 🙂

      1. صدرا می‌گه:

        با روحیه متمرکزی که من دیدم ازت تو خودت خفن دو عالمی عزیزم 🙂

  2. حسین می‌گه:

    سلام
    چقدر به آینده امیدواریم، یا بهتر بود بگم، امیدواره.
    واقعا تصور من از آینده، آخرین نسل نوع بشر و بعد انقراض. سرنوشتی شبیه دایناسورها تا میمون ها.
    در مورد گوشی هم من در حال حاضر اسمارت فون ندارم، ولی به نظرم ابزار خوبی هست و چرا دورش بندازیم؟ راه استفاده ازش رو تصحیح کنیم. والا

    1. Sadra می‌گه:

      میدونم چی میگی. در مورد گوشی هم اگه برای بقیه مفیده برای امثال من ضروریه:) چون شغلمون وابسته بهش هست. حرف من چیز دیگه ایه. سخته که بری تو اتیش و اسیبی نبینی.

      1. حسین می‌گه:

        سلام مجدد
        بله سخته و حق با شماست
        یه چیز بی ربط هم به موضوع هم بگم
        چند وقت پیش یه تیک های قرمز گذاشته بودی برای مطالب فنی، آنها را چه شد برادر جان؟

        1. صدرا می‌گه:

          گوگلم فیچر معرفی میکنه بعد بی خیالش میشه ما که جای خود داریم:))

          1. حسین می‌گه:

            صدرا جان، فیچر خوبی بود
            یکی از دوستان برای وبلاگش دنبال یک تم برای ترکیب مطالب فنی و عمومی می گشت، ما وبلاگ شما رو به عنوان نسخه مناسب برای پیاده سازی انتشار مطالب فنی و غیرفنی در کنار هم و البته در نهایت سادگی و کاربردی معرفی کردیم، بعد اومدیم دیدیم، عه، اون دکمه رنگی های “فنی” کجاست؟
            اگه تونستی برگردون، خوبه و دمت گرم

  3. افشین می‌گه:

    یه نظریه‌ی خیلی شخصی، غیر علمی و غیر مستند و به قول معروف اله بختکی دارم که فکر میکنم، قبل از رسیدن بشر به پیشرفت‌های بسیار وحشتناک که ممکنه منجر به نابودی خودش و یا جهش یا هر تغییر ناگهانی و بزرگ دیگه ای بشه، مواد اولیه و منابع طبیعی تموم خواهد شد. شاید حتی بشر مجبور به عقب گرد و زندگی بدوی بشه.

    1. Sadra می‌گه:

      به نظرم خوبی قضیه اینه که لازم نیست زیاد صبر کنیم تا ببینیم چه اتفاقی میفته.

پاسخ دهید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *