AI로부터 인류 보호, 안전장치 마련 분주 > 지금 평창은?

본문 바로가기

      로그인  회원가입        


오늘 본 펜션
0/0
지금 평창은?

AI로부터 인류 보호, 안전장치 마련 분주

페이지 정보

작성자 행복이 작성일24-05-21 20:54 조회0회 댓글0건

본문

인공지능(AI) 기술로 이미지나 영상을 합성한 ‘딥페이크’가 세계 선거판을 흔드는가 하면, 이스라엘·하마스 전쟁 도구로도 쓰인다. 편리함을 가져다주는 ‘AI 일상화’에 기대가 크지만, 첨단 AI를 무기화하면 돌이킬 수 없는 피해를 가져온다는 경고 또한 무시할 수 없다. AI로부터 인류를 보호할 안전장치를 마련하려는 빅테크 기업과 각국의 움직임이 분주하다.
20일 정보기술(IT) 업계에 따르면 빅테크 기업들은 개별적으로 ‘유용하고 안전한’ AI를 위한 자구책을 마련해왔다. 구글의 AI 기업 인스타 좋아요 구매 딥마인드는 지난 17일(현지시간) AI 모델의 위험성을 평가하기 위한 ‘프런티어 안전 프레임워크(틀)’를 공개했다.
현재 기업들은 잠재적 취약점과 편향성을 찾아내는 ‘레드팀’을 가동하고, 규정을 준수하기 위해 다양한 기술을 동원한다.
최근 오픈AI의 ‘초고도 AI’가 인류에 해롭지 않은 방식으로 작동하도록 제어하는 방안을 연구하던 전담팀을 해체하고, 이에 반발한 일부 경영진이 사임한 사례는 AI 개발에서 안전이 얼마나 중요한 가치인지 보여준다.
안보와도 직결되는 만큼 AI는 국가 차원에서도 중요하다. 한국·미국·중국을 포함한 28개국과 유럽연합(EU), 구글 딥마인드·메타·MS·오픈AI 등 기업들은 지난해 11월 영국에서 처음 열린 AI 안전성 정상회의에서 AI의 급속한 발전으로 인해 발생할 수 있는 ‘재앙적’ 위험을 억제하기 위해 협력하기로 했다.
각국은 인스타 좋아요 구매 AI 규범 마련에도 한창이다. 지난 3월 유럽의회는 AI를 위험에 따라 분류하고 차등 규제하는 세계 첫 ‘포괄적 AI 규제법’을 통과시켰다. 국내에서도 ‘AI 기본법’ 제정안이 국회 계류 중이다.
각국과 기업 대표들은 21~22일 한국과 영국 정부가 공동 주최하는 ‘AI 서울 정상회의’를 통해 또다시 한자리에 모인다. 21일 정상 세션은 주요국 정상과 국제기구 수장, 빅테크 대표가 참여해 90분간 화상회의 방식으로 개최한다. 초청 기업은 삼성전자, 네이버, 구글, 아마존, 메타, MS, 오픈AI 등이다. 대통령실 관계자는 안전하고 혁신적이고 포용적인 AI를 위한 합의문 채택도 추진 중이라고 말했다.
22일 장관 세션은 서울 홍릉의 한국과학기술연구원(KIST)에서 대면으로 열린다. 이날 AI 글로벌 포럼은 고위급 라운드테이블과 전문가 세션으로 구성되며, 오후 전문가 세션은 유튜브로 볼 수 있다.

댓글목록

등록된 댓글이 없습니다.


개인정보취급방침 이메일무단수집거부 공지사항 TOP BACK
업체명: 사단법인 한국농어촌민박협회 강원지부 평창지회 ,  대표자명:이천기
주소 : 강원도 평창군 봉평면 봉평북로 396-4
사무국장 : 010-9761-0424,   팩스: 033-332-9942   이메일 : lsg652@naver.com
고유번호 : 804-82-00257 / 문의: 010-9761-0424
Copyright © 평창펜션안내. All rights reserved.