大漩涡
场景的感官记忆,带领我们在信息漩涡中找回方向
我们如何借助音乐性的信息语言与周遭的空间交流?如同我们所生活的环境一般,当视觉与听觉的信息从四周涌来,我们该如何在这样的信息漩涡中行动?《大漩涡》是一件交互视听装置以及空间乐器,结合我们开创性的交互音乐结构和空间音频为观众带来全新的交互体验。它反映了当今海量数据的压倒性力量,并以空间声音装置与可听化的形式,引导我们穿越环境历史的变迁。空间中的各类信息以一个整体的生态系统,对人的行为作出响应,借此我们在的漩涡中重新找回方向并得以从中脱出。
马歇尔·麦克卢汉意识到了到当今时代与埃德加·爱伦·坡的小说《大漩涡底余生记》的相似之处——当一名水手被困在混乱漩涡的绝境中,他通过观察漩涡中物体的模式并抓住重复出现的物体,他最终逃脱了混乱的境地。而如今作为在信息漩涡中航行的水手,我们如何从数字技术所创造出的混乱中找回方向呢?装置《大漩涡》正是爱伦坡的小说中描述的旅程的再现:在整个体验中,观众通过中央的控制器在虚拟空间中移动,从漩涡中混乱的视觉中心逃逸到外围黯淡的声音空间。借助对场景和信息的记忆,观众穿过一个又一个在AI生成模型的干预下,重复相似却逐渐演化的场景,并逐步与漩涡内的规则相互塑造、相互依赖。
这件装置尝试在信息感知上挑战人的认知上限,并且挑战当下视觉中心文化下的感官结构,用音乐性、时间性的视角为沉浸式技术、生成技术所形成的环境带来新的文化与思考。我们将《大漩涡》称为“空间乐器”,并不仅仅因为观众可以操纵它来产生声音,更是因为它以音乐性、时间性的模式来调配我们可感范围内的一切感官信息:循环、延迟、调制、并发、量化等等。《大漩涡》让未经训练的普通观众通过简单的移动来进行表演并创造实时的视听体验。在空间音频的引导下,所有参与者,包括视障者,都能作为独立表演者参与整个体验。
基于可视化、可听化、音乐和建筑的相关研究,本项目聚焦于以人为中心的、由声音驱动的空间交互叙事。它探索了面向普通观众,包括视障碍人士的多感官体验,并涉及神经科学、模式识别以及人脑对音乐的预测和反馈过程等多个研究领域。我们引入了一个新的空间音乐系统框架,通过用户影响的空间音频引导和实时来传递信息,帮助用户在空间中自由移动并借助移动展开独特的多感官叙事。在文化上,它针对目前的艺术创作体系以及音乐叙事提供了一个批判性视角,针对线性叙事、图形界面以及当前视觉中心主义的感官结构,提供了一个模式识别工具,将非视觉的、时间性的感知作为核心,帮助个体应对当前数字技术(沉浸式体验、个人智能设备以及AI生成技术)带来的感官过载与认知失调。
视觉的递进演化
“大漩涡”的视觉部分由生成式AI模型驱动,.这一体验将观众置于不断演化的视觉景观中心,利用DALL·E 2和Midjourney生成模型,这件装置创造出类似城市卫星图像的地图,呈现出如同地质演化的动态过程,在整个过程中观众依赖对过去场景的记忆与经验在空间中移动,并逐步适应新的环境。同时,观众在声音的指引下,反过来影响着场景的演变轨迹。在整个体验中,基于这些地图所形成的漩涡被投射在地面上,围绕着这片区域,音响阵列中传来可视范围外的声音引导。
声音的递进演化
在《大漩涡》中,声音引导行动,行动反过来塑造声音,并形成多分支递进的空间音乐叙事。整个体验由声音驱动,让观众借助不同的交互音频的反馈在混乱的信息漩涡中行进并重拾方向。我们开创性地提出了一种交互的、多分支的空间音乐结构,超越可视化、可听化和音频空间化并对人的感官结构进行探索。它将音乐的递进结构表达为所有感官要素的空间-时间逻辑,为人在信息环境中的决策和认知提供辅助。技术上,借助Unreal Engine、Metasounds最新技术和分布式扬声器阵列,它围绕着“基于距离的声音效果调制”的技术框架,扩展了Dolby Atmos空间音频的互动性。
大漩涡在 2024 SXSW 西南偏南音乐节
大漩涡在 2023 SUSAS 上海城市空间艺术季
现场演示:赵潇潇 摄影:乐乐糖
从信息生态的角度来看,《大漩涡》团队试图回应本届上海城市艺术季的主题“共栖”并补充:“共栖不仅涉及人与自然环境以及城市环境之间的关系,还涉及到个体与周围信息环境之间的动态关系。我们如何处理自身感知范围内的信息?如何利用新工具来协调个体与信息流之间的关系?这也关乎情感体验和人类认知,是个人体验和环境尺度下的双重挑战。
主办单位:上海市规划和自然资源局、上海市文化和旅游局、徐汇区人民政府、长三角生态绿色一体化发展示范区执行委员会、嘉定区人民政府、青浦区人民政府、松江区人民政府、奉贤区人民政府、中国(上海)自由贸易试验区临港新片区管理委员会
承办单位:上海市城市规划设计研究院、同济大学、上海西岸开发(集团)有限公司
主展区:徐汇西岸南段,龙耀路至淀浦河5公里滨江地区
主展馆地址:上海徐汇区港口渡口站以南100米(原白猫库房)
开放时间:2023/9/25-2023/11/20
现场照片
大漩涡在Spectra Studio
Spectra Studio主理人: Harvey Moon
空间音频技术支持: Brian Cantrell
这件作品于2023年底在Spectra Studio的穹顶投影以及7.1声道空间音频的装置中进行了展示。Spectra Studio 是一家位于加利福尼亚州洛杉矶的跨学科艺术家集合体,结合艺术与前沿技术的可能性,将创意转化为实体的、多感官的共享体验。Spectra的实践融合了媒体艺术、计算机科学和机械工程,并创造出新的表现形式,其实践范围涵盖了装置、投影、雕塑、机械臂、光和声音在内的多种媒介。
大漩涡在AlloSphere
目前,我们正在与UCSB加州大学圣塔芭芭拉分校的AlloSphere实验室展开密切合作,进一步探索沉浸式体验、生成技术中神经科学与人脑的认知机制。在时间域,人脑对空间的感知、理解、预测、决策到最终的行为,都受到环境中的噪声干扰以及可识别信息的影响。在这一方面,《大漩涡》的观众体现出各不相同的行为模式和学习过程,反映了各自对交互信息的辨别能力。
AlloSphere设立于2001年,是由JoAnn Kuchra Morin教授以及建筑师文丘里等团队共同建立的球幕声学实验室,旨在为来自互动、高分辨率的三维视觉和空间音频提供环境与技术支持,并与多个学科的研究人员与创作者合作。