该研究院按照“1个研究院+N个创新中心+N个科研条件平台”的三层开放式组织架构组建。第一批设立3个创新中心，分别为北京人工智能基础研究创新中心、北京智慧社会创新中心、北京人工智能专利创新中心。3个创新中心均为独立运营的企业。
北京人工智能基础研究创新中心专注基础研究，由创新工场牵头发起，主要任务是吸引国际人才落户北京，将技术成果应用到各产业，企业孵化推动市场化。
北京智慧社会创新中心专注产业化应用，包含技术创新平台、试点示范应用创新平台，主要由商汤科技牵头发起，推动人工智能技术城市管理实践及相关行业领域的落地应用。
北京人工智能专利创新中心专注知识产权，组建专利联盟，培育专利池，建立IP保护伞，参与国际AI行业标准竞争。
人工智能计算及数据应用服务平台包括公共计算平台和第三方数据平台，由中国科学院计算机网络信息中心牵头，目标是为了构建针对人工智能运算的新型GPU计算平台、数据平台。
李开复在成立大会上表示，中国利用其在数据、人才教育培训和政府政策支持，有望在人工智能领域追赶美国，甚至超越美国。
未来研究院将以提升人工智能原始创新能力为使命，聚集一批国际一流的科学家和机构，构建顶级人才团队，聚焦重大理论、关键共性技术和关键产品，提供全链条创新支持平台，促进科技成果转化和应用落地实践，力争形成一批具有全球影响力的原创成果、国际标准、技术创新中心和创新型领军企业集群，成为北京建设国家创新中心的标志性重大工程，以及国际人工智能发展的领军者。
