PixelSound | An Audio Toy

상호작용 오디오 / 상호작용 음악

Whenever I start a new creative project, I always get a new toy - some cool plugin, or musical instrument, or spiffy microphone - something to just play around with for no other reason than to have fun. Making time for play encourages “childlike discovery” which is when good ideas happen.


"PixelSound"

"PixelSound" is an audio toy that makes a sound based on the color of the pixel your mouse is pointing at. It's a Unity/Wwise project (partly inspired by the excellent program PhotoSounder) that loads up a jpeg, then sets RTPCs to red, green, blue, and grayscale values including x/y screen position.

It's also a way to use Wwise as a sound design tool. Need to create some related variations for a random container? Set up a mix of assorted stems; let it run while recording the output; cut up the results and pick the ones you like. It's a common enough technique ...

Using the color values of pixels to set Wwise event parameters is just a way to generate pseudo-random variations. You can set up patterns to trigger specific effects, or load up a photo of your dog just to see what happens. This kind of "seemingly but not really completely by chance" algorithm can be considered "stochastic", a composition method famously utilized by Xenakis to produce interesting tonalities.

To play, fire up the Unity project, and click on the screen. Move the mouse around to hear how the event reacts to the colors and screen position. Click again to stop.

Download the project here.

You can drop your own .jpg files into the Assets/Pictures folder, then drag them into the "Picture" field of the GetPixelParameters script attached to the "pictureSprite" game object. This formats and resizes the picture to the screen, starts/stops the selected Wwise event, and sets the RTPCs.

The Wwise project contains some demonstration and test events that modify volume, pitch, trigger rates, EQ, and other parameters. They produce a variety of noises you can play with -- but of course, the whole point is to have fun messing around with your OWN sounds and pictures. There's also a Wwise Recorder instance on the Master Audio Bus, in case you want to record the output for later editing.

PixelSound

**Project update - "VPixelSound"**

VPixelSound is basically the same idea as PixelSound, except it uses video instead of jpegs. You drop in a .mov and select a position (center screen by default). RTPCs are set to red/green/blue/greyscale values as before, but I added some State processing as well, whereby color values set Wwise states on a ten step scale (i.e. blue_00, blue_01 ... blue_10).

Using this version, Wwise events are controlled by moving picture, rather than by moving mouse. The series of colors that generate the audio is also repeatable, in case you wanted to craft an event for a specific sequence of images. Multiple cursor positions and color averaging options are available as well.

Most videos will provide interesting input for sonic experimentation. I used QuickTime Screen Recording to create the included samples, but any capture method will do. Note: no soundtrack needed, and any video format Unity supports should work.

Remember, this project is an audio toy; the point is to try out your own videos and Wwise events to see what noises you can produce. Is it useful as a Serious Sound Design Tool? <shrug> All I know is it sure is fun to play with! (and isn't that an important aspect of any creative work?)

Video demo:


The "VPixelSound" project can be downloaded here.

I can possibly see this technique being useful in a game:

  • Modify the ambience based on the color of a procedurally generated sky
  • Change filter settings based on the greyscale value of a scene
  • Randomize UI/selection sounds based on screen position

Granted, it's a whimsical technique that could maybe support creative audio solutions. But mostly, it's just supposed to be fun to play around with, and experiment with the powerful features available to sound designers when using Wwise as a synthesizer.

What does blue sound like to you today?

Peter "pdx" Drescher

Peter "pdx" Drescher

Peter "pdx" Drescher produces audio content, implementation, and code for games and mobile devices. He is a talented sound designer, accomplished musician/composer, published author, experienced programmer, and skilled audio engineer. His ProTools project studio "Twittering Machine" is located in the SF Bay area.

www.twittering.com/

댓글

댓글 달기

이메일 주소는 공개되지 않습니다.

다른 글

Wwise를 사용한 음향 시뮬레이션

최근에 작업한 프로젝트에서 저희 회사는 어느 고객의 미래 사무실 공간 음향 시뮬레이션을 Wwise를 사용해 포로토타입할 기회가 있었습니다. 새로운 건물에서 음향이 어떻게 들릴...

2.10.2019 - 작성자: 에길 샌드펠드 (Egil Sandfeld)

하이브리드 상호작용 음악의 시대가 올 것인가? 제 1부 -상호작용 음악의 R&D 플랫폼으로 Get Even 사용하기

저는 게임 음악을 작곡할 때 어떻게 하면 플레이어에게 의미있게 다가갈 수 있을까 항상 고민합니다. 작곡가는 보통 크리에이티브 디렉터, 오디오 디렉터와 함께 이야기, 감정, 주제,...

22.10.2019 - 작성자: 올리비에 더리비에르 (OLIVIER DERIVIÈRE)

하이브리드 상호작용 음악의 시대가 올 것인가? 제 2부 - 기술적 설명

이 블로그의 제 1부에서는 하이브리드 상호작용 음악에 대해 다루고, 게임에서 음악을 더 넓은 범위로 사용할 수 있는 방법을 개발하는 것이 왜 중요한지를 알아보았습니다. 이제 제...

31.10.2019 - 작성자: 올리비에 더리비에르 (OLIVIER DERIVIÈRE)

라우드니스를 처리하는 최상의 방법, 제 1강: 라우드니스 측정 (1부)

방송과 같은 푸시 서비스, 멀티 플랫폼 상호작용 엔터테인먼트, 인터넷 스트리밍과 같은 다양한 미디어 형식에서 라우드니스는 단지 신호 전달 표준이 아니라 소비자 선호에 직접적인...

12.11.2019 - 작성자: 지에 양 (Jie Yang, 디지몽크)

Wwise를 사용하여 보다 복잡한 MIDI로 제어되는 샘플 악기만들기

MIDI 기반 음악으로 되돌아가는 데에 관심이 있는 사람들은, PS4의 내장 신디사이저를 이용할 수 없으며(존재하지 않음) PC 사운드카드의 GENERAL MIDI에 의존할 수도...

28.7.2020 - 작성자: 다니엘 벡 (DANIEL BECK)

상호작용 오디오 비지니스

저희는 Wwise 상호작용 음악 심포지움에서 최고의 분들을 패널에 모셔서 상호작용 오디오에서 작업 그 자체만큼이나 아주 중요한 분야인 비즈니스의 측면에 대해 대화를 나누었습니다....

26.1.2021 - 작성자: Audiokinetic (오디오키네틱)

다른 글

Wwise를 사용한 음향 시뮬레이션

최근에 작업한 프로젝트에서 저희 회사는 어느 고객의 미래 사무실 공간 음향 시뮬레이션을 Wwise를 사용해 포로토타입할 기회가 있었습니다. 새로운 건물에서 음향이 어떻게 들릴...

하이브리드 상호작용 음악의 시대가 올 것인가? 제 1부 -상호작용 음악의 R&D 플랫폼으로 Get Even 사용하기

저는 게임 음악을 작곡할 때 어떻게 하면 플레이어에게 의미있게 다가갈 수 있을까 항상 고민합니다. 작곡가는 보통 크리에이티브 디렉터, 오디오 디렉터와 함께 이야기, 감정, 주제,...

하이브리드 상호작용 음악의 시대가 올 것인가? 제 2부 - 기술적 설명

이 블로그의 제 1부에서는 하이브리드 상호작용 음악에 대해 다루고, 게임에서 음악을 더 넓은 범위로 사용할 수 있는 방법을 개발하는 것이 왜 중요한지를 알아보았습니다. 이제 제...