OpenAI宣布启动“超对齐快速资助计划”，以支持超人工智能系统的技术研究
OpenAI今天宣布推出总额为1000万美元的“超对齐快速资助计划”，旨在支持针对超人工智能系统的对齐和安全性的技术研究。该计划将重点支持弱到强泛化、可解释性、可扩展监督等方面的研究。
OpenAI相信超级智能有可能在未来10年内诞生。这些人工智能系统将具有广泛的能力，可能带来巨大的益处，但也可能带来巨大的风险。目前，我们通过人类反馈的强化学习来确保AI系统的安全。然而，对齐未来的超人工智能系统将面临根本性的新挑战。超人工智能系统将能够展现出人类无法完全理解的复杂和创造性行为。例如，如果一个超人工智能模型生成了一百万行极其复杂的代码，人们将无法可靠地评估这些代码的安全性和危险性。依赖于人类监督的现有对齐技术，如强化学习，可能不再足够。这带来了一个基本性的挑战：人类如何引导和信任比他们聪明得多的AI系统？这是世界上最重要的尚未解决的技术问题之一。但我们认为，通过共同的努力，这个问题是可以解决的。目前有许多有希望的方法和令人兴奋的方向，以及许多唾手可得的成果。我们认为，今天机器学习研究社区和个人研究者在解决这个问题上有巨大的机会。
作为我们的“超对齐”项目的一部分，我们希望汇聚世界上最优秀的研究人员和工程师，迎接这一挑战，我们对能够吸引新的人才进入该领域尤为兴奋。
在与Eric Schmidt的合作下，我们推出了一个总额为1000万美元的资助计划，以支持针对确保超人工智能系统对齐和安全的技术研究。我们将向学术实验室、非营利组织和个人研究者提供10万美元至200万美元不等的资助。对于研究生学生，我们将提供为期一年的OpenAI超对齐奖学金，总额为15万美元，其中包括7.5万美元的生活津贴和7.5万美元的计算资源和研究经费。申请者不需要有对齐方面的先前经验，我们积极寻找首次从事对齐研究的研究者。我们的申请流程简单，并将在申请截止后的四个星期内回复申请者。请在2月18日前提交申请。
通过这些资助计划，我们特别关注以下研究方向：
从弱到强的概括：相对于超人工智能模型，人类将是弱监督者。我们能否理解和控制强模型如何从弱监督中的泛化能力？
可解释性：我们如何理解模型的内部结构？我们可以用它来构建人工智能测谎仪吗？
可扩展的监督：我们如何使用人工智能系统来帮助人类评估其他人工智能系统在复杂任务上的输出？
许多其他研究方向，包括但不限于：诚实、思想链忠实性、对抗性鲁棒性、评估和测试平台等。
via 匿名
🗒 标签: #OpenAI #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
OpenAI今天宣布推出总额为1000万美元的“超对齐快速资助计划”，旨在支持针对超人工智能系统的对齐和安全性的技术研究。该计划将重点支持弱到强泛化、可解释性、可扩展监督等方面的研究。
OpenAI相信超级智能有可能在未来10年内诞生。这些人工智能系统将具有广泛的能力，可能带来巨大的益处，但也可能带来巨大的风险。目前，我们通过人类反馈的强化学习来确保AI系统的安全。然而，对齐未来的超人工智能系统将面临根本性的新挑战。超人工智能系统将能够展现出人类无法完全理解的复杂和创造性行为。例如，如果一个超人工智能模型生成了一百万行极其复杂的代码，人们将无法可靠地评估这些代码的安全性和危险性。依赖于人类监督的现有对齐技术，如强化学习，可能不再足够。这带来了一个基本性的挑战：人类如何引导和信任比他们聪明得多的AI系统？这是世界上最重要的尚未解决的技术问题之一。但我们认为，通过共同的努力，这个问题是可以解决的。目前有许多有希望的方法和令人兴奋的方向，以及许多唾手可得的成果。我们认为，今天机器学习研究社区和个人研究者在解决这个问题上有巨大的机会。
作为我们的“超对齐”项目的一部分，我们希望汇聚世界上最优秀的研究人员和工程师，迎接这一挑战，我们对能够吸引新的人才进入该领域尤为兴奋。
在与Eric Schmidt的合作下，我们推出了一个总额为1000万美元的资助计划，以支持针对确保超人工智能系统对齐和安全的技术研究。我们将向学术实验室、非营利组织和个人研究者提供10万美元至200万美元不等的资助。对于研究生学生，我们将提供为期一年的OpenAI超对齐奖学金，总额为15万美元，其中包括7.5万美元的生活津贴和7.5万美元的计算资源和研究经费。申请者不需要有对齐方面的先前经验，我们积极寻找首次从事对齐研究的研究者。我们的申请流程简单，并将在申请截止后的四个星期内回复申请者。请在2月18日前提交申请。
通过这些资助计划，我们特别关注以下研究方向：
从弱到强的概括：相对于超人工智能模型，人类将是弱监督者。我们能否理解和控制强模型如何从弱监督中的泛化能力？
可解释性：我们如何理解模型的内部结构？我们可以用它来构建人工智能测谎仪吗？
可扩展的监督：我们如何使用人工智能系统来帮助人类评估其他人工智能系统在复杂任务上的输出？
许多其他研究方向，包括但不限于：诚实、思想链忠实性、对抗性鲁棒性、评估和测试平台等。
via 匿名
![WeChatMsg 留痕 - 支持语音聊天，微信聊天记录导出工具[Windows] - 小众软件](/static/https://cdn4.telesco.pe/file/Y_10bBm90MTsTFAGBj9KeWEVRQm0-Mly2WPHBt2Z2GZK31Oipd8_oML1GKyQRB4ylE5tSq-bzKOythP5cileToyv1XcTeh3ptExPyQ-7vKj9fcSu4nzTrjCtb6bN33olnrEUOsI1krJMwKms5m_fg91-JYeRtJbGj2Jot2ovBDn5FbiRmPly8TZ_z2OgeR2n6O30ayrzePjmiAPFLegZSDBi8tT7zKwW8HAY0N9FCbo83FNr8pdDULMVejj6oKGe3FVSU9N2DWZBUkTU87RRxCB9-DLY7nRw1p3ZVsKkyOhckYdAhGKHQPhN1BJlWhq95DO_gZsV916nV8xemVqv1Q.jpg)
![OMP - 可自托管的开源 OneDrive 媒体播放器[Web] - 小众软件](/static/https://cdn4.telesco.pe/file/uKvPjNMIwqXBYUjddanaMAYxko9-6Y6en0YzEs-1kY7yhszAaOiEcTuYr0CbZ_WCDYXxJrD7DKmYzMZ01YDB5Imq05oeiCwJtEEaJ-5i2BbNAwDKx2GDwcW0rbZFCWMhRsZUgibhOFoW0xTczgttkdn2FQ424zDVmUhtrG1ee0EcIiVHZlNpiMADFqdeXVOzp-YGfohGSxJcSo4H7nYISKeuc8n1ZR9Yr6FkZ6riO37_uN00HsET-Lxpj_0RZJawCnGlDYISn_J6CeZv_OwXLmLPOJpM4ewDI2hxdQ8bCCEPVwOXJBHqP1uyIM1luDQYs_N5GjO6009fMX8yYGjMZQ.jpg)
1985年至2021年的裁判文书全量数据，共94.36G
https://pan.baidu.com/s/1hzy4Pg62PeBHI4mtgx8DYA?pwd=4p46
via https://weibo.com/1881588645/NwNEpnTC9
https://pan.baidu.com/s/1hzy4Pg62PeBHI4mtgx8DYA?pwd=4p46
via https://weibo.com/1881588645/NwNEpnTC9
Twitch 更新政策，对性相关直播内容标签进行宽容调整
近些年，Twitch不懈努力以控制其平台上的性相关内容，但政策的模糊性和评判的不一致性频繁引发争议和反响。今天（14日），Twitch宣布了性相关内容标签的更新，这一转变意味着之前被禁绝的某些直播内容，现在只要贴上适当的标签，如艺术创作、扭臀和钢管舞等基于艺术表现形式的活动，就能在平台上合规地展现。
近些年，Twitch不懈努力以控制其平台上的性相关内容，但政策的模糊性和评判的不一致性频繁引发争议和反响。今天（14日），Twitch宣布了性相关内容标签的更新，这一转变意味着之前被禁绝的某些直播内容，现在只要贴上适当的标签，如艺术创作、扭臀和钢管舞等基于艺术表现形式的活动，就能在平台上合规地展现。
Go-Music
歌单迁移工具，可以将网易云和 QQ 音乐的歌单迁移到 Apple/Youtube/Spotify Music 等平台，免费使用，无需注册。
🏂 使用指南
· 输入歌单链接并复制结果
· 打开 TunemyMusic 网站
· 来源选择“任意文本”，粘贴复制的歌单并转换
· 选择迁移的目的地，确认迁移
频道 @WidgetChannel
Liber3
一个去中心化的电子书搜索引擎，基于以太坊域名服务 ENS 建立，提供 mobi/epub/azw3/pdf 等格式的书籍，免费下载，无需注册。
试着搜了几本书，都能搜到且有多个版本，还蛮好用的，多多益善吧这类服务。
频道 @WidgetChannel
Netcup推出本地块存储服务，1TB/12.19欧/月，1GB起售，最大可扩展至8TB。可附加在root server、VPS、ARM服务器上。
按日计费，不可降级缩小，需要小盘只能新开。
https://www.netcup.de/vserver/local-block-storage/
按日计费，不可降级缩小，需要小盘只能新开。
https://www.netcup.de/vserver/local-block-storage/
![宝宝起名软件 - 宝爸开发者用 AI「训练」几十万古诗词，做了一款宝宝起名应用[iPhone] - 小众软件](/static/https://cdn4.telesco.pe/file/PYYemLH6T06E1Jh5xkKZrqdnjfKivqnh52Ak8fN_eK6dqroY3uPMUqsp2q1UP3KOH2MbUw75gpjA4Jxw3ePjUbbM2rVEsD4QP603Bde1b_saT8DId968qNsQ-rNiD_yPuqjFTZznTvNO0r3aqBTfavU3ChHK0rMy3d6Yvlb9kfIGHJXmfRsAUBpimZj0gqcgcK3_eAmsTU_oDympw4OzuKJVUxDqdMp8SwrhgGA5BnidOgIaKs5E3rxm9gos6njAV8M3JGahIW2gcm9tzonVuPtC460fu06DCchvCJJtXiQmOl2wPj2isYb0oyCW2w1mLnDpjVMu6vkASTiOma-lnw.jpg)
V2EX的第100W贴纪念
https://www.v2ex.com/t/1000000
https://www.v2ex.com/t/1000000
