t-SNE・UMAPと次元削減：機械学習の数理シリーズ

前半ではt-SNEやUMAPを実際にPython言語を用いて動かしてみましょう。これらの手法に不慣れな人もいると思いますが、MNISTとよばれる画像データセットを用いてデモをすることでイメージを掴むことができると思います。後半では、t-SNE・UMAPの仕組みについて説明します。t-SNEやUMAPを考える動機は、データの分布の様子を低次元でも確認できるようにすることです。データが分布する様子をfuzzy位相表現というグラフで表し、これとなるべく似たfuzzy位相表現をもつ点の配置を低次元の空間で実現するというアイディアに基づいています。ここは内容の多い部分なので、2日目の前半に説明がまたがる予定です。

前半では1日目に続いて、t-SNEやUMAPの仕組みの解説を行います。さて、新しいデータ点が得られたとき、主成分分析ではその主成分得点を計算することが出来ましたが、t-SNEやUMAPではその点が次元削減した空間のどこに配置されるかを計算することはできません。この問題を解決するために提案されたのが、パラメトリックt-SNE・パラメトリックUMAPです。また、t-SNEやUMAPは点の周辺の密度の情報を破壊してしまうことが知られています。この問題に対処するために提案されたのがdensVisとよばれる考え方で、この考え方をt-SNEやUMAPに導入したものをdenSNE・densMAPといいます。後半では、これらパラメトリックt-SNE・パラメトリックUMAP・densVisの概要を説明し、Python言語によるデモを与えます。