ӘлемБасты ақпаратБілімҒылыми мақалаларЖаңалықтарЖасанды интеллектТехнология

ChatGPT бәрін біледі деп ойласаңыз — қателесесіз

Адам мен жасанды интеллектің (ЖИ) ойлау жүйесі әртүрлі болғанымен, соңғы зерттеулер олардың шешім қабылдауда бірдей қателіктерге бой алдыртынын көрсетті. ChatGPT моделін сынаған ғалымдар, оның шешім қабылдау үрдісінде адам психологиясына тән біржақты пікірлер мен иррационалды ойлаудың белгілері байқалатынын анықтады.

Канада мен Австралия университеттерінің ғалымдары GPT-3.5 және GPT-4 моделін 18 түрлі когнитивтік бұрмалау бойынша тексеріп, олардың жартысынан астамында ChatGPT адамға тән қателіктерді қайталағанын байқағаның Manufacturing & Service Operations Management журналында жарияланды.

ЖИ – бәріне суыққандылық танытады ма, әлде адамға ұқсай ма?

Зерттеу тобы ChatGPT-ке тәуекелге көзқарас, өзіне шамадан тыс сенімділік, «менікі» деген дүниені артық бағалау сияқты адамға тән біржақты пайымдар туралы сұрақтар қойып, бизнеске қатысты нақты жағдайларға бейімдеді. Мақсат – ЖИ адам сияқты қисынсыз шешім қабылдай ма, соны анықтау.

Айви бизнес мектебінің доценті Ян Чен былай дейді:

«ЖИ-ден ең үлкен пайда – нақты әрі құрылымды шешімдерді іздегенде көрінеді. Ал субъективті, пікірге байланысты мәселелерде ЖИ-ге толық сену қауіпті».

ЖИ-дің бұл мінезі оның үйренген деректерінде адам психологиясына тән бұрмалаулар көп болуымен түсіндіріледі. Оған қоса, ЖИ-ді жетілдіру кезінде адамдар беретін кері байланыс логикалық шешімнен гөрі сенімді, «адамша» жауаптарды жиі таңдауға үйретеді. Соның әсерінен, күрделі, белгісіз жағдайларда ЖИ адамның қателігін қайталап, рационал ойлаудан алыстап кетеді.

Тиімді пайдалану жолы – бақылаумен бірге қолдану

Макмастер университетінің доценті Мина Андиаппан бұл технологияны бақылаусыз қалдыруға болмайтынын ескертеді:

«ЖИ – шешім қабылдай алатын әріптес сияқты. Бірақ оған қадағалау мен этикалық шектеулер қажет. Әйтпесе, біз дұрыс емес ойлауды автоматтандырып, қателіктерді күшейтіп жіберуіміз мүмкін».

Бұл зерттеу жасанды интеллекті сәтті пайдалану үшін адам тарапынан бақылау мен сараптамалық ойлаудың қаншалықты маңызды екенін еске салады. ЖИ – қуатты құрал, бірақ ол бәрін өз бетінше шеше алатын, мінсіз ақыл иесі емес.

Ұқсас жаңалықтар

Пікір қалдыру