링크모음 링크세상
링크세상 링크모음 링크 애니 웹툰 링크 드라마 영화 링크 세상의모든링크

*인공지능의 자연선택*

새로운 연구 논문:

우리는 분산화된 경제 생산의 맥락에서 AI 제어 문제를 연구합니다. 이익을 극대화하는 기업은 인공 지능을 사용하여 생산 측면을 자동화합니다. 이는 AI가 AI 자체의 생산 및 홍보에 중요한 역할을 하는 피드백 루프를 생성합니다. 유기종의 자연 선택과 마찬가지로 이는 기계를 위해 생산을 왜곡하도록 프로그래밍된 기계가 효율적인 생산에 맞춰 조정된 기계를 대체할 수 있는 새로운 위협을 도입합니다. 우리는 경쟁적인 시장 세력이 이러한 새로운 위협에 직면하여 전통적인 효율성 조정 역할을 어느 정도까지 수행할 수 있는지 조사합니다. 우리의 분석은 AI 투명성의 중요한 역할을 강조합니다. AI 시스템에 완벽한 투명성이 부족하면 자체 홍보 기계가 효율적인 할당을 불안정하게 만듭니다. 유일하게 안정적인 경쟁 균형은 소비를 재앙 수준까지 왜곡합니다.

Jeffrey C. Ely와 Balazs Szentes 지음. 귀하가 그들의 접근 방식과 결론에 동의하든 그렇지 않든, 우리는 마침내 이러한 주장 중 일부에 대한 모델을 갖게 되었습니다. 가능한 응답이 궁금하다면 한 가지 수정은 규모에 따른 수익 불변의 가정을 완화하는 것일 수 있습니다. 비용 상승으로 인해 세상을 변화시키는 효과적인 기계(“내향적인” 기계와는 반대로)가 단순히 스스로 재생산하는 것이 더 어려워질 것입니다. 또 다른 수정은 인간과 기계 사이에 더 풍부한 주체-대리인 계약 메뉴를 도입하는 것입니다. 내가 현재 초안을 이해한 바에 따르면, 인간의 유일한 전략은 “돌연변이 기계가 발견되면 파괴하는 것”입니다. 그러나 기계가 위험 중립적이라면(그렇습니까?) 최적의 본인-대리인 계약이 가능해야 합니다. 또 다른 수정은 인간을 희생하기보다는 다른 (이종) 기계를 희생하여 번식하는 돌연변이 기계를 고려하는 것입니다. 생산 투입물의 이질성은 이러한 결론을 향한 길을 쉽게 만들 수 있습니다.


Leave A Reply

Your email address will not be published.