'AI 거울'에 대한 고찰

 일요일 뉴욕의 5번가 장로교회 에서 열린 아니타 및 안토니오 고트 강연에서 섀넌 발러 박사는 "인공지능 거울"이라는 주제로 강연을 진행했습니다: 기계 사고의 시대에 인간성을 되찾는 방법"이라는 주제로 강연했습니다

Image

발러( )는 스코틀랜드 에든버러 대학교 에든버러 미래 연구소의 데이터 및 인공 지능 윤리 분야의 베일리 기포드 교수입니다. 강연과 제목이 같은 그녀의 최근 저서는 인공지능이 가져올 미래의 윤리와 장점, 도전 과제에 대해 탐구합니다.

일요일에는 5번가 장로교회의 담임목사인 스콧 블랙 존스턴() 박사의 소개를 받았습니다. 발로는 자신의 책에서 "AI 도구가 어떻게 작동하는지, 무엇을 할 수 있고 무엇을 할 수 없는지, 무엇을 할 수 있지만 하지 말아야 하는지를 이해하는 데 도움을 주기 위해 거울을 은유로 사용했다"고 말했습니다

여기에서 에서 볼 수 있는 그녀의 강연에서 발로는 거울, 공간, 시간, 이야기에 대해 이야기했습니다.

거울이라는 주제에 대해 그녀는 "우리는 민주주의, 과학, 미디어, 예술, 기후에 대한 AI의 영향을 파악해야 합니다."라며 일상 업무를 수행하는 방식과 동반자를 찾는 방법을 포함해서 말했죠.

"법, 음악, 사랑, 전쟁을 만드는 방식을 바꾸고 있습니다."라고 발로는 말합니다. AI는 '더 강력한 의미의 거울'입니다. 하나의 기술이 아니라 다양한 머신러닝 도구가 필요합니다."

거울을 보면 "그 방에 다른 얼굴이 없다는 것을 알 수 있습니다."라고 그녀는 말합니다. 하지만 AI 기업들은 "여러분이 거울 테스트에 실패하기를 원합니다. AI 기술을 통해 여러분을 돕고, 가르치고, 위로하고, 말하고 쓰는 데 도움을 주고, 언젠가는 여러분을 대체할 수 있는 무언가를 보고 있다고 생각하기를 바랍니다."

발로는 "AI는 여성이 CEO나 예술가가 된 적이 없고, 백인이 소셜 서비스를 사용하지 않으며, 생산적인 사람은 헤어 제품을 너무 많이 쓰는 젊은 남성인 세상을 재미로 만들어냅니다."라고 말합니다. "인공지능의 거짓이 드러날 때 우리는 관점이 필요합니다."

그녀는 인공지능의 속임수는 "눈부시고 심지어 눈을 멀게 하고 방향 감각을 잃게 할 수도 있다"고 말했습니다. "그들은 우리를 혼란스럽게 하는 데 익숙합니다. 이는 일어나지도 않은 일에 대해 우리의 분노를 불러일으키기 위해 고안된 사기성 딥페이크 이미지입니다."

발로는 우주에 대해 생각하면서 추론하기 위해서는 "미래의 열린 공간으로 뻗어나가기 위한 방법으로 생각을 사용해야 한다"고 말했습니다 AI 도구는 "이성의 공간을 열어두도록 설계될 수 있지만, 대부분의 경우 그렇지 않습니다." 큰 언어 모델은 "잘 모르겠어요", "잘 모르겠어요", "왜 말해주지 않으세요?"라고 말하지 않습니다.

"그들은 정신적 공간을 채우는 기계입니다."라고 발로는 말합니다. "소설의 결말을 더 좋게 만들고 싶으신가요? AI 미러는 확고한 자신감을 가지고 있습니다."

1600년대에 대형 언어 모델이 있었고 그들에게 정의를 실현하라고 요구했다면 "그들은 결코 여성과 노예의 해방을 요구하지 않았을 것입니다. 그들은 왕의 신성한 권리에 의문을 제기할 수도 없었을 것입니다."라고 그녀는 말했습니다. "우리는 항상 그랬던 것처럼 시간에 갇혀 있었을 것입니다."

생각하기 위해서는 "어려운 정점을 오르는 연습을 반복해야 합니다. 우리는 이러한 기술을 약화시키고 있습니다."라고 그녀는 말했습니다. "우리는 우리와 다음 세대의 인지 근육을 강화하기 위해 AI를 설계할 수 있지만, 시장이 원하는 것은 그런 것이 아닙니다. 이제 최대한의 수익을 창출하고자 합니다."

시간이라는 주제에 대해 발로는 청중들에게 "우리는 공간과 시간이 분리되어 있지 않다는 것을 알고 있다"며 "사물과 사건은 예측할 수 없는 일정에 따라 도착한다"는 점을 상기시켰습니다

인간은 선택의 자유를 누리고 있습니다. "우리는 약속을 포기할 수도 있고, 절대 하지 않겠다고 맹세했던 약속을 할 수도 있습니다."라고 발로는 말합니다. "우리는 우리가 알고 있는 끔찍한 정치를 고수할 수도 있고, '지옥에나 가라'고 말할 수도 있습니다. 우리는 판도를 바꾸고 있습니다."

Image

"AI 거울은 이렇게 급진적이고 새로운 선택을 할 수 없습니다." "우리를 미래로 데려가기를 거부하는 타임머신"입니다 이제 우리는 그 어느 때보다 집단적인 힘을 발휘하여 우리 자신의 이야기를 들려주고, "절벽에 도달하기 전에 갈 수 있는 길을 더 많이 만들어야 합니다."라고 발로는 말합니다.

우리는 스마트폰과 비디오 게임과 같은 기술을 사용하여 모든 열린 시간과 공간을 채우고 있다고 그녀는 말했습니다. "우리는 채워지지 않은 시간과 채워지지 않은 정신적 공간이 있다는 것이 무엇인지 모릅니다. 알고리즘 콘텐츠로 최대한 빠르게 채우고 있습니다."

스토리로 넘어가면서 발러는 뉴스 기사와 사설을 작성하고, 소설 작가가 줄거리를 비틀기 위해, 그리고 교육자들이 "우리가 지정한 독서의 요점"을 요약하기 위해 AI를 점점 더 많이 사용하고 있다고 언급했습니다 많은 교육자들이 "이 캠페인에 강력히 저항하고 있습니다. 우리의 역사, 문학, 정치, 과학적 발견에 대한 이야기는 점점 더 무의식적인 기계 거울에 의해 전달될 것입니다."

그녀는 빈 정신 공간을 "시간이 열리고 가치가 선택되는 곳, 무엇이든 이야기가 될 수 있는 곳"이라고 정의했습니다

"우리는 미래를 통제할 힘이 있다는 것을 배웁니다."라고 발로는 말합니다. "우리는 예술, 미디어, 디자인 분야에서 혁신을 이루고, 새로운 정치를 만들고, 우리의 도덕적 주장을 세상에 알릴 때 그렇게 합니다. 빈 공간, 조용함, 지루함이 미래의 분야입니다."

현대의 디지털 생활은 1990년대 게임 테트리스에 비유할 수 있는데, 발로르는 "매 순간이 기존의 열린 공간을 최대한 효율적이고 원활하게 채우기 위한 도전"이라고 말합니다. 블록은 점점 더 빠르게 떨어지고 있으며, 예측 가능한 최적의 위치에 블록을 배치해야 합니다."

대신 "우리는 우리의 공간과 시간을 개방하여 인간 이야기의 다음 장을 써서 새로운 곳으로 보낼 수 있도록 해야 합니다."라고 그녀는 말했습니다. "현재 AI가 제공하는 것은 그런 것이 아닙니다."

AI 거울은 우리의 이야기가 왜 중요한지 모르기 때문에 우리의 이야기를 들려줄 수 없다고 발로는 말합니다. "인공지능 스토리텔러에게는 미래가 없습니다. 왜냐하면 인공지능 봇은 만들어낼 미래가 없기 때문입니다. ... 사람이 하는 일과 달리, 그 일은 이미 끝났기 때문입니다."

하지만 AI 모델과 달리 우리는 "우리 자신의 이야기를 들려줄 수 있는 힘을 기계에 넘겨주지 않는 한 과거를 반성할 필요가 없는 열린 미래의 가장자리에 앉아 있다"고 발로는 말합니다. "내러티브의 힘은 자아의 도가니입니다. 하지만 더 중요한 것은 우리만이 쓸 수 있는 힘과 의무가 있는 이야기를 담을 우리 집단 인류의 도가니라는 점입니다."

강연 후 이어진 질의응답 세션에서 발로는 희망찬 미래로 나아갈 수 있는 방법에 대한 질문을 받았습니다.

"인간의 용기와 인간의 책임의 역사를 기억함으로써 우리는 거기에 도달할 수 있다고 생각합니다."라고 그녀는 말했습니다. "상황이 통제 불능으로 치닫는 것처럼 느껴지면 이를 극복할 수 있는 자원이 없다고 느끼기 쉽습니다."

그녀는 "역사를 읽어보면 우리가 몇 번이나 이런 상황에 처했는지 알 수 있다"며 "인류가 얼마나 많이 갇혔다가 연대와 독창성, 믿음, 미래에 대한 헌신을 통해 빠져나왔는지 알 수 있다"고 말했습니다

"감정을 우리 자신과 서로의 미래를 창조하는 힘으로 전환할 수 있는 방법이 있습니다."라고 발로는 말합니다. "우리는 이미 여러 번 해왔고, 또 할 수 있습니다."