雷鋒網 AI 研習社按:本文為雷鋒字幕組編譯的技術博客, 原文 Make Music and Art Using Machine Learning, 作者 magenta。
翻譯 | 汪星宇 王飛 魏洪貴 整理 | 凡江
概述
Magenta 專案的一個主要目標是證明機器學習可以用來提高所有人的創造性潛能。
頁面上的演示和應用均來自穀歌人(內部或是外部), 他們打造有趣的玩具、富有創意的應用、研究筆記和專業工具, 這將對許多人有所幫助。
分類
Web 應用
https://magenta.tensorflow.org/demos#web-apps
Colab 筆記本
https://magenta.tensorflow.org/demos#colab-notebooks
本機應用
https://magenta.tensorflow.org/demos#native-apps
社區貢獻
https://magenta.tensorflow.org/demos#community-contrib
Web 應用
本部分包括基於流覽器的應用程式管理, 許多是通過TensorFlow.js, 對WebGL-accelerated的推理實現的。
1. Beat Blender
demo
https://g.co/beatblender
blog
https://magenta.tensorflow.org/music-vae
code
https://github.com/googlecreativelab/beat-blender
Torin Blankensmith ( Github: torinmb, Twitter: tBlankensmith )
Kyle Phillips ( Github: hapticdata , Twitter: hapticdata )
這是穀歌Creative Lab基於MusicVAE用MusicVAE.js API實現的一個交互demo。 你可以使用它來生成鼓點的二維調色板, 並通過latent空間繪製路徑以創建不斷變化的節拍。 四個角可以手動編輯, 替換為預設, 或從latent空間採樣以重新生成調色板。
2. Latent Loops
demo
https://goo.gl/magenta/latent-loops
blog
https://magenta.tensorflow.org/music-vae
Catherine McCurry ( Github: currycurry )
Zach Schwartz ( Github: zischwartz )
Harold Cooper ( Github: hrldcpr )
這是穀歌的Pie Shop基於MusicVAE用MusicVAE.js API實現的一個交互demo。 Latent Loops可以讓你在一個由不同音階組成的方陣裡挑選曲子並生成迴圈的曲子, 再用這些生成一個更長的曲子。 搞音樂的人可以用這個介面創建一個完整的曲子並輕鬆地將它挪到他們自己的數位音樂工作站中。
3. Melody Mixer
demo
https://g.co/melodymixer
blog
https://magenta.tensorflow.org/music-vae
code
https://github.com/googlecreativelab/melody-mixer
Torin Blankensmith ( Github: torinmb , Twitter: tBlankensmith )
Kyle Phillips ( Github: hapticdata , Twitter: hapticdata )
這個demo是由穀歌Creative Lab基於MusicVAE用MusicVAE.js API創建的。 它能讓你輕鬆生成兩小段曲子之間的過渡音樂。
4. PerformanceRNN
demo
https://goo.gl/magenta/performancernn-demo
blog
https://magenta.tensorflow.org/performance-rnn-browser
code
https://goo.gl/magenta/performancernn-demo-code
Curtis Hawthorne ( Github: cghawthorne )
Nikhil Thorat ( Github: nsthorat , Twitter: nsthorat )
PerformanceRNN可以在流覽器裡即時演奏鋼琴, 他是用TensorFlow.js開發的。
5. SketchRNN
demo
https://magenta.tensorflow.org/assets/sketch_rnn_demo/index.html
blog
https://magenta.tensorflow.org/sketch-rnn-demo
code
https://github.com/tensorflow/magenta-demos/blob/master/sketch-rnn-js
David Ha ( Github: hardmaru , Twitter: hardmaru )
Jonas Jongejan ( Github: HalfdanJ , Twitter: HalfdanJ )
Ian Johnson ( Github: enjalot , Twitter: enjalot )
這個demo可以讓你和SketchRNN一起畫畫。
6. NSynth Sound Maker
demo
https://g.co/soundmaker
blog
https://magenta.tensorflow.org/nsynth-instrument
code
https://github.com/googlecreativelab/aiexperiments-sound-maker
Yotam Mann ( Github: tambien , Twitter: yotammann )
一個基於NSynth的交互AI的嘗試, NSynth是與穀歌Creative Lab合作完成, 你可以選擇兩種樂器將他們合成一個新的音樂。
7. A.I. Duet
demo
https://g.co/aiduet
blog
https://magenta.tensorflow.org/2017/02/16/ai-duet
code
https://github.com/googlecreativelab/aiexperiments-ai-duet
Yotam Mann ( Github: tambien , Twitter: yotammann )
一個基於NSynth 的交互AI的例子,MelodyRNN是與穀歌Creative Lab合作完成的,它讓你通過機器學習來作曲。通過很多MIDI的例子來訓練一個神經網路讓它學習音樂概念,創建一個關於音符和時序圖。你演奏一些音符,看看它如何反應的吧。
Colab 筆記本
Colaboratory是穀歌的一個用於普及機器學習教育和研究的研究項目。環境是Jupyter筆記本,完全運行在雲端,不需要本地進行設置。
我們為Colab筆記本提供了一些模型,這些模型可以讓你在託管的穀歌雲實例上與它們進行免費交互。
8. E-Z NSynth
demo
https://g.co/magenta/nsynth-colab
Jesse Engel ( Github: jesseengel , Twitter: jesseengel )
這個Colab筆記本能夠免費幫助你上傳你自己的音效檔,然後使用NSynth模型對這些音效檔進行重建修改。
9. MusicVAE
demo
https://g.co/magenta/musicvae-colab
Adam Roberts ( Github: adarob , Twitter: ada_rob )
MusicVAE學習樂譜的潛在空間。 此Colab筆記本提供的功能可供您從先前的分配中隨機抽樣,並在幾個預先訓練的MusicVAE模型的現有序列之間進行插值。你還可以將結果與MusicVAE論文中描述的基準模型進行比較,這篇論文的題目是:用於學習音樂長期結構的分層潛在向量模型。
10. Onsets and Frames
demo
https://colab.research.google.com/notebook#fileId=/v2/external/notebooks/magenta/onsets_frames_transcription/onsets_frames_transcription.ipynb
Curtis Hawthorne ( Github: cghawthorne )
Onsets and Frames是一個自動鋼琴音樂轉錄模型。 這款Colab筆記本演示了在使用者提供的錄音上模型的運行。
11. Latent Constraints
demo
https://colab.research.google.com/notebooks/latent_constraints/latentconstraints.ipynb
Jesse Engel ( Github: jesseengel , Twitter: jesseengel )
有關潛在約束的運行實驗代碼:無條件生成模型的條件生成。
本機應用
本機應用程式在本地機器上運行,通常需要您安裝其他軟體,但有時更適合專業人士使用。
12. NSynth MaxForLive Device
blog
https://magenta.tensorflow.org/nsynth-instrument
code
https://github.com/tensorflow/magenta-demos/tree/master/nsynth
Jesse Engel ( Gituhub: jesseengel , Twitter: jesseengel )
MaxForLive設備集成到Max MSP和Ableton Live中。 它可以讓你通過直觀的網格介面探索NSynth聲音的空間。
13. A.I. Jam (NIPS 2016 Demo)
blog
https://magenta.tensorflow.org/2016/12/16/nips-demo
code
https://github.com/tensorflow/magenta-demos/tree/master/ai-jam-js
Adam Roberts ( Gituhub: adarob , Twitter: ada_rob )
Jesse Engel ( Gituhub: jesseengel , Twitter: jesseengel )
互動式“A.I. Jam使用AI Duet的前端構建的“Jam Session”,結合Magenta MIDI介面,在流覽器中重現屢獲殊榮的Magenta 2016 NIPS演示體驗。
社區貢獻
社區貢獻都是在沒有穀歌參與的情況下創建的,使用的是Magenta模型和庫。 如果你有一個你認為屬於這裡的演示,請通過我們的討論群組分享。
14. Latent Cycles
demo
https://codepen.io/teropa/full/rdoPbG/
blog
https://codepen.io/teropa/details/rdoPbG/
code
https://codepen.io/teropa/pen/rdoPbG
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
使用ImprovRNN的Magenta MusicVAE模型種子生成旋律迴圈的潛在空間,然後相互演奏迴圈,探索潛在的諧波可能性。
由TensorFlow.js和Magenta.js提供支援。
15. Neural Drum Machine
demo
https://codepen.io/teropa/full/RMGxOQ/
blog
https://codepen.io/teropa/details/RMGxOQ/
code
https://codepen.io/teropa/pen/RMGxOQ
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
由TensorFlow.js和Magenta的DrumsRNN和MusicVAE提供動力的實驗電子鼓樂器。 要使用它,請在左側定義種子模式,並使用“生成”按鈕。 DrumsRNN夢想著延續你的種子模式。 “密度”滑塊使用MusicVAE添加或刪除圖案中的點擊。
16. Neural Arpeggiator
demo
https://codepen.io/teropa/full/ddqEwj/
blog
https://codepen.io/teropa/details/ddqEwj/
code
https://codepen.io/teropa/pen/ddqEwj
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
保持一個音符或和絃,讓深度神經網路在其周圍播放琶音模式。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
17. Neural Melody Autocompletion
demo
https://codepen.io/teropa/full/gvwwZL/
blog
https://codepen.io/teropa/details/gvwwZL/
code
https://codepen.io/teropa/pen/gvwwZL
Tero Parviainen ( Gituhub: teropa ,Twitter: teropa )
播放並保持旋律或和絃,讓深層神經網路為您完成。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
18. Deep Roll
demo
https://codepen.io/teropa/full/zpbLOj/
blog
https://codepen.io/teropa/details/zpbLOj/
code
https://codepen.io/teropa/pen/zpbLOj
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
一個深度的神經網路,在你的流覽器中做出旋律。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
這些旋律是由ImprovRNN生成的,和絃產生條件是通過使用瑪律可夫鏈生成的。
19. mSynth
demo
https://itunes.apple.com/us/app/msynth/id1269514201
blog
https://magenta.tensorflow.org/blog/2017/09/12/outside-hacks
code
https://github.com/lamtharnhantrakul/mSynth
Hanoi Hantrakul ( Gituhub: lamtharnhantrakul)
mSynth是一款在2017年Outside Hacks中獲得第一名的應用程式,Outside Hacks是三藩市Outside Lands音樂節上舉辦的官方24小時音樂程式設計馬拉松。該團隊開發了一個藝術家觀眾互動式體驗,節日觀眾可以通過傾斜手機即時共同控制Magenta的NSynth。
博客原址 https://magenta.tensorflow.org/demos
點擊下方“閱讀原文”瞭解【人工智慧實驗平臺】
↓↓↓
一個基於NSynth 的交互AI的例子,MelodyRNN是與穀歌Creative Lab合作完成的,它讓你通過機器學習來作曲。通過很多MIDI的例子來訓練一個神經網路讓它學習音樂概念,創建一個關於音符和時序圖。你演奏一些音符,看看它如何反應的吧。
Colab 筆記本
Colaboratory是穀歌的一個用於普及機器學習教育和研究的研究項目。環境是Jupyter筆記本,完全運行在雲端,不需要本地進行設置。
我們為Colab筆記本提供了一些模型,這些模型可以讓你在託管的穀歌雲實例上與它們進行免費交互。
8. E-Z NSynth
demo
https://g.co/magenta/nsynth-colab
Jesse Engel ( Github: jesseengel , Twitter: jesseengel )
這個Colab筆記本能夠免費幫助你上傳你自己的音效檔,然後使用NSynth模型對這些音效檔進行重建修改。
9. MusicVAE
demo
https://g.co/magenta/musicvae-colab
Adam Roberts ( Github: adarob , Twitter: ada_rob )
MusicVAE學習樂譜的潛在空間。 此Colab筆記本提供的功能可供您從先前的分配中隨機抽樣,並在幾個預先訓練的MusicVAE模型的現有序列之間進行插值。你還可以將結果與MusicVAE論文中描述的基準模型進行比較,這篇論文的題目是:用於學習音樂長期結構的分層潛在向量模型。
10. Onsets and Frames
demo
https://colab.research.google.com/notebook#fileId=/v2/external/notebooks/magenta/onsets_frames_transcription/onsets_frames_transcription.ipynb
Curtis Hawthorne ( Github: cghawthorne )
Onsets and Frames是一個自動鋼琴音樂轉錄模型。 這款Colab筆記本演示了在使用者提供的錄音上模型的運行。
11. Latent Constraints
demo
https://colab.research.google.com/notebooks/latent_constraints/latentconstraints.ipynb
Jesse Engel ( Github: jesseengel , Twitter: jesseengel )
有關潛在約束的運行實驗代碼:無條件生成模型的條件生成。
本機應用
本機應用程式在本地機器上運行,通常需要您安裝其他軟體,但有時更適合專業人士使用。
12. NSynth MaxForLive Device
blog
https://magenta.tensorflow.org/nsynth-instrument
code
https://github.com/tensorflow/magenta-demos/tree/master/nsynth
Jesse Engel ( Gituhub: jesseengel , Twitter: jesseengel )
MaxForLive設備集成到Max MSP和Ableton Live中。 它可以讓你通過直觀的網格介面探索NSynth聲音的空間。
13. A.I. Jam (NIPS 2016 Demo)
blog
https://magenta.tensorflow.org/2016/12/16/nips-demo
code
https://github.com/tensorflow/magenta-demos/tree/master/ai-jam-js
Adam Roberts ( Gituhub: adarob , Twitter: ada_rob )
Jesse Engel ( Gituhub: jesseengel , Twitter: jesseengel )
互動式“A.I. Jam使用AI Duet的前端構建的“Jam Session”,結合Magenta MIDI介面,在流覽器中重現屢獲殊榮的Magenta 2016 NIPS演示體驗。
社區貢獻
社區貢獻都是在沒有穀歌參與的情況下創建的,使用的是Magenta模型和庫。 如果你有一個你認為屬於這裡的演示,請通過我們的討論群組分享。
14. Latent Cycles
demo
https://codepen.io/teropa/full/rdoPbG/
blog
https://codepen.io/teropa/details/rdoPbG/
code
https://codepen.io/teropa/pen/rdoPbG
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
使用ImprovRNN的Magenta MusicVAE模型種子生成旋律迴圈的潛在空間,然後相互演奏迴圈,探索潛在的諧波可能性。
由TensorFlow.js和Magenta.js提供支援。
15. Neural Drum Machine
demo
https://codepen.io/teropa/full/RMGxOQ/
blog
https://codepen.io/teropa/details/RMGxOQ/
code
https://codepen.io/teropa/pen/RMGxOQ
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
由TensorFlow.js和Magenta的DrumsRNN和MusicVAE提供動力的實驗電子鼓樂器。 要使用它,請在左側定義種子模式,並使用“生成”按鈕。 DrumsRNN夢想著延續你的種子模式。 “密度”滑塊使用MusicVAE添加或刪除圖案中的點擊。
16. Neural Arpeggiator
demo
https://codepen.io/teropa/full/ddqEwj/
blog
https://codepen.io/teropa/details/ddqEwj/
code
https://codepen.io/teropa/pen/ddqEwj
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
保持一個音符或和絃,讓深度神經網路在其周圍播放琶音模式。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
17. Neural Melody Autocompletion
demo
https://codepen.io/teropa/full/gvwwZL/
blog
https://codepen.io/teropa/details/gvwwZL/
code
https://codepen.io/teropa/pen/gvwwZL
Tero Parviainen ( Gituhub: teropa ,Twitter: teropa )
播放並保持旋律或和絃,讓深層神經網路為您完成。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
18. Deep Roll
demo
https://codepen.io/teropa/full/zpbLOj/
blog
https://codepen.io/teropa/details/zpbLOj/
code
https://codepen.io/teropa/pen/zpbLOj
Tero Parviainen ( Gituhub: teropa , Twitter: teropa )
一個深度的神經網路,在你的流覽器中做出旋律。
由TensorFlow.js和Magenta的ImprovRNN提供支援。
這些旋律是由ImprovRNN生成的,和絃產生條件是通過使用瑪律可夫鏈生成的。
19. mSynth
demo
https://itunes.apple.com/us/app/msynth/id1269514201
blog
https://magenta.tensorflow.org/blog/2017/09/12/outside-hacks
code
https://github.com/lamtharnhantrakul/mSynth
Hanoi Hantrakul ( Gituhub: lamtharnhantrakul)
mSynth是一款在2017年Outside Hacks中獲得第一名的應用程式,Outside Hacks是三藩市Outside Lands音樂節上舉辦的官方24小時音樂程式設計馬拉松。該團隊開發了一個藝術家觀眾互動式體驗,節日觀眾可以通過傾斜手機即時共同控制Magenta的NSynth。
博客原址 https://magenta.tensorflow.org/demos
點擊下方“閱讀原文”瞭解【人工智慧實驗平臺】
↓↓↓