AI가 부를 착각과 조작…규제는 누가 해야할까

생각하는 기계를 만드는 것이 아니며, 사람 같은 기계를 만드는 것도 아니다. 의식 있는 기계를 만드는 것도 아니다.

‘AI는 친구가 아니다. AI는 사람이 아니다. AI는 늘 실수할 수 있다. AI는 인간의 도구일 뿐이다’라는 메시지를 잘 표현하는 친숙한 그림을 그려 달라고 업스테이지의 인공지능 서비스 ASKUP에 부탁해 나온 그림 | 이경전 교수 제공

AI의 자의식에 대한 두려움은 과장 인류의 생존을 위협하는 인공지능이 출현할까봐 걱정하는 사람들은 인공지능이 의식이 있는, 스스로 독립된 개체가 될 것이고, 스스로 목표를 만들어서 행동할 것이라 예측하나, 아직은 과학적 근거가 부족하다. AI가 자의식을 가질 수 있다는 설득력 있는 과학적 증거가 없는 상황에서 이 같은 두려움에는 과장된 측면이 있다. AI는 자의식 없이 단순히 인간의 말을 따라하고 조합하는 것일 뿐이라는 설명이 더 과학적인 설명이다. 그러므로 AI 자체를 적으로 두고 싸우는 것은 반지성적 태도다. 과학적 근거가 부족한 주장에 기반을 둬 정책이나 제도, 기구를 만드는 것은 현명한 방법이 아니다.

둘째, 인공지능 맹신 방지다. “제 대답은 진실이 아닐 수 있고, 틀릴 수 있고, 오류가 있을 수 있다”는 표식을 모든 인공지능 대화 서비스가 표시해야 한다. 또, 인공지능이 대화 중간중간에 “나의 이 대답은 틀릴 수 있고, 기계에 의해 생성된 잘못된 정보, 의견, 감정, 표현을 포함할 수 있다”는 ‘오류 단서’를 주기적으로 표시해야 한다. 이는 인간이 인공지능을 맹신할지 모르는 위험, 인간이 인공지능의 잘못된 대답을 가지고 잘못된 행동을 할 가능성을 피하기 위한 중요한 규제가 될 것이다.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

kyunghyang /  🏆 14. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

로또 '조작 의혹'에 150명 몰린 공개방송…1등 52억 '대박' 터져 | 중앙일보2등은 83명으로 서울 금천구 판매점에서 당첨 복권이 동시에 6개가 나왔습니다.\r로또 공개방송 당첨
더 많은 것을 읽으십시오 »

[권희진의 세계는] 범인은 누구? 댐 폭발의 미스터리나흘 전 우크라이나 남부 지역의 거대한 댐이 파괴돼 일대 14개 마을이 물에 잠기고 수만 명이 피해를 입었죠. 댐은 왜, 누가 폭파했을까요? 러시아와 우크라이나는 서로...
더 많은 것을 읽으십시오 »

[스브스夜] '그알' 7kg 미라가 된 가을이…아이 죽음으로 내몬 어른들 '정체 추적'[SBS연예뉴스 | 김효정 에디터] 가을이를 미라로 만든 것은 누구인가 10일 방송된 SBS '그것이 알고싶다'에서는 '살아서 미라가 된 가을이 - 누가 비극 속 진짜 악역인가?'라는 부제로 참혹하게 죽어간 가을이 사건을 조명했다.
더 많은 것을 읽으십시오 »

2025년부터 수학·영어·정보 과목 AI 디지털교과서 도입오는 2025년부터 수학, 영어, 정보, 특수교육 국어 과목에 인공지능(AI)이 탑재된 디지털교과서가 활용됩니...
더 많은 것을 읽으십시오 »