세지포 'AI 윤리, 어떻게 해야 하나' 세션생성형 AI 성능 평가 과정에서여러 배경 가진 사람 참여해야윤리적으로 건전한 제품 나와
생성형 인공지능발 'AI 열풍'으로 많은 사람의 관심이 AI 기술과 투자 기회에 몰리고 있지만 AI 윤리에도 많은 관심을 기울여야 한다는 전문가들의 진단이 나왔다.제24회 세계지식포럼 'AI 윤리, 어떻게 해야 하나: 혁신과 책임 사이에서' 세션에서는 AI 개발·활용 과정에서 지켜야 하는 윤리를 중심으로 논의가 이어졌다. 이 세션 패널 토론에서 마거릿 미첼 허깅페이스 수석윤리과학자는 AI 훈련 과정에서 인종주의, 고정관념 등 많은 편견이 개입될 수 있다고 주장했다. 데이터가 전 세계에 거쳐 고르게 추출되지 않는 것 등의 이유를 들었다. 미첼 수석윤리과학자는"미국 남성의 말과 생각이 과대 대표되는 경향이 있다"고 했다.
에드윈 판 바이트플러스 엔터테인먼트&AI 솔루션 총괄은 AI 성능을 평가하는 과정에서 윤리 데이터베이스를 구축하고 핵심 기준에 윤리성을 도입해야 한다고 했다. 그는"우리의 AI 목표는 정확한 답을 얻는 것뿐만 아니라 윤리적 답을 얻는 것이 돼야 한다"고 했다. 이 과정에서 그는 개발진의 다양성이 중요하다고 강조했다. 판 총괄은"다양한 배경을 갖고 있는 사람들이 개발에 참여할 때 윤리적으로 건전한 제품이 만들어질 수 있다"고 했다.AI 투명성 문제, 차별·편향성 문제, 환각 문제, 개인정보 및 저작권 문제 등에 대한 논의도 있었다. 판 총괄은 데이터 관련 저작권 등 규제 확립이 중요하다고 강조했다.
다임러 대표는 결정론적인 AI와 확률론적인 AI를 모두 사용해야 좋은 결과를 거둘 수 있다고 주장했다. 그는"결정론적인 AI와 확률론적인 AI를 결합하면 이용자의 프라이버시를 보호할 수 있다"고 했다. 미첼 수석윤리과학자는 머신러닝과 윤리에 기반한 AI 개발에 중점을 둔 연구자다. 자연어 생성, 보조 기술, 컴퓨터 비전, AI 윤리에 관한 논문을 50편 이상 발표했으며 대화 생성 및 감정 분류 분야에서 특허를 다수 보유하고 있다. 현재 허깅페이스에서 수석윤리과학자로 근무하며 머신러닝 개발 생태계, 머신러닝 데이터 거버넌스, AI 평가, AI 윤리에 관한 업무를 추진하고 있다. 이전에는 구글 AI에서 스태프 리서치 과학자로 근무하며 AI 윤리 연구와 윤리 운영에 중점을 둔 윤리적 인공지능팀을 설립하고 공동으로 이끌었다. 다양성, 포용성, 컴퓨터과학, 윤리의 교차점에서 여러 워크숍과 이니셔티브를 주도한 바 있다.
판 총괄은 바이트플러스에서 아시아태평양 지역의 엔터테인먼트 기술 사업을 이끌고 있으며 한국 시장에 서비스를 제공하고 있다. 그는 AI, 비디오 클라우드 및 첨단기술 분야에서 다년간의 기업 경험을 가지고 있으며 C레벨 및 최고 기업의 고위 임원에게 혁신적인 제품에 대해 조언하고 있다.그는 지역사회와 시민들이 더 지속 가능하고, 안전하고, 번영하는 미래를 위해 AI를 활용할 수 있도록 힘쓰고 있다. 버락 오바마 미국 행정부의 대통령 혁신 펠로로서 다임러 대표는 AI 기술 채택 분야에서 의제 설정을 주도했다. 그는 또 카네기멜런대 컴퓨터과학대 소프트웨어 공학 조교수와 부학과장을 지냈다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
“억대 연봉? A급 인재 아니면 해고”...선망 대상이던 ‘이 직업’ 양극화AI 열풍에 AI 개발자 대거 채용했지만 美테크업계, A급 인재 제외 구조조정 ‘2주 900만원’ AI 교육에 수강생 몰려
더 많은 것을 읽으십시오 »
'듣지 못해도 칼군무·수어로 K팝 매력 발산'청각장애 3인조 아이돌 '빅오션' 미국수어로 신곡 발표보청기·메트로놈·AI 도움받아1년반 연습해 칼군무 선보여장애인도 가사 알게 수어 안무WHO '장애 편견 깨줘 경의'
더 많은 것을 읽으십시오 »
“학폭기록 삭제, 피해회복 조건부로 도입해볼만”…국내 1호 전문변호사국내 1호 학폭 전문변호사 노윤호 폭력 대한 처벌 강화되면서 가해 측 부인하거나 맞고소 중요한건 피해학생의 회복 교화 가능한 가해학생도 많아 불이익 학교생활 중 부과하되 복구노력 땐 삭제 검토했으면
더 많은 것을 읽으십시오 »
부르기만 해도 선입견? 도대체 타이틀이 뭐길래[시력 잃고 알게 된 세상] 장애를 둘러싼 편견
더 많은 것을 읽으십시오 »
“다닐 맛 나겠네”…주4일제·출산 1천만원·초봉 5천만원, 상시채용 ‘이곳’저축은행 “인재 상시채용 중” 근무환경, 급여 크게 개선 저출산 극복…남성 육아휴직도 진심 채용형 인턴 경쟁률 100대1 스포츠단 운영…이색경험도 선사
더 많은 것을 읽으십시오 »
‘조지 플로이드 죽음’ 잊어가는 미국2020년 5월25일(현지시간) 미국 미네소타주 미니애폴리스에서 흑인 남성 조지 플로이드가 경찰의 과잉 진압으로 숨졌다. 백인 경찰 데릭 쇼빈은 플로이드의 목을 9분30초 동...
더 많은 것을 읽으십시오 »