連結子会社クロス・マーケティングによるクラスタリングの新手法発案について

2023 年９月 28 日
各 位
東京都新宿区西新宿３ 丁目 20 番２号
株式会社クロス・マーケティンググループ
代表取締役社長兼 CEO 五 十 嵐 幹
（コード番号：3675 東証プライム市場）
問合せ先 取締役 CFO 小野塚 浩二
（TEL．03－6859－2259）



連結子会社クロス・マーケティングによるクラスタリングの新手法発案についてのお知らせ



当社の連結子会社である株式会社クロス・マーケティングが、報道機関向けに下記プレスリリースを
行いましたので、お知らせいたします。


記


高い分類精度と再現性を持つ、革新的な非階層型クラスタリングを開発
～因子分析や主成分分析がなくても、様々な単位のデータでクラスター分析が実行可能～


詳細につきましては、次ページ以降のプレスリリースをご参照ください。


以上




- 1 -
 2023 年 9 月 28 日
株式会社クロス・マーケティング



高い分類精度と再現性を持つ、革新的な非階層型クラスタリングを開発
～因子分析や主成分分析がなくても、様々な単位のデータでクラスター分析が実行可能～


株式会社クロス・マーケティング（本社：東京都新宿区、代表取締役社長：五十嵐 幹）は、非階層型クラスタリングの圧倒
的な精度向上を達成する、独自手法「k-umeyama」を開発しました。「k-umeyama」の採用により、マーケティングや広告業
界にとどまらず、クラスタリングが日常的に活用されている、画像処理や AI を用いた判断処理等、多くの分野で革新的な精度向
上が実現可能となりました。 ＊「k-umeyama」は開発者である弊社梅山貴彦の名をとったものです


■「k-umeyama」の概要
k-umeyama は、分析対象のすべてのデータを格納して分析をおこなうため、情報量が多くても、もれなく分析を実施することが
できます。データに対して、相関性を排除する因子分析や主成分分析などのデータ加工を介さず、全てのデータ同士の関係性を
加味して、無理なく分類できます。また、データが類似しており違いが小さい場合、どのクラスターに分類されるかがこれまで不安定
であったものを、シグモイド関数を利用して、データ間の距離の重み付けをより明確にすることにより、データ分類の精度を向上させ
ることを可能にしました。


■標準的な非階層型クラスタリングの抱える課題
k-means のアルゴリズムは、初期シードの選び方に依存して結果が変わり、そのシードが近くに偏ると、クラスタリングの質が低下
する可能性が指摘されています。また、ランダムな選択方法により、再現性が低いという課題があります。下記の左側が k-
means のグラフとなりますが、初期シードが 1 回目と 2 回目では違う場所が指定され安定性が低いことがわかります。
これらの問題点を解決するための新しいアプローチとして、k-means++が開発されました。この方法では、初期シードを順番に
選び出し、前のシードから距離が遠い次のシードを確率的に選択することで、クラスターが均等に分布するように配置されます。こ
の改良により、クラスタリングの質と再現性が向上しました。中央が k-means++、右側が k-umeyama となり、それぞれシード
の位置は違いますが。1 回目と 2 回目のシードの位置は安定しています。しかし、k-means++は、シードの選択過程で、最も
遠い点の外れ値が選ばれやすくなるという弱点があります。＜図 1＞
＜図 1＞非階層クラスター分析の距離（左：k-means、中央：k-means++、右：k-umeyama）
■シードの選択過程の弱点改良に向けて、シグモイト関数を活用
弊社では、k-means++のシード選択に関する課題を解決すべく、新しい手法「k-umeyama」を開発いたしました。この方法
は、シグモイド関数を活用することで、各データポイントが距離とウエイト値に基づいて明確に分類される特長があります。具体的
な例として、グラフの左側を k-means++、右側を k-umeyama として表示した際、k-umeyama によりデータポイント 1 や 0
を比較すると、ウエイトが k-means++(1=0.065,0=0.069)、k-umeyama(1=0.03,0=0.195)とはっきりとした分類と
なることが確認できます。この技術により、k-means++のシード選択の精度を一層向上させることが期待されます。＜図 2＞
＜図 2＞シード選択の過程（左：k-means++、右：k-umeyama）




■従来の非階層クラスター分析と距離の弱点改良に向けて
クラスター分析は、似た特徴を持つもの同士をグループにまとめる手法で、特にマーケティング・リサーチの業界でよく用いられます。
一般的な手法、k-means では、最初にデータを「因子分析・直交化」という方法で整理します。これは、いろいろな情報を簡潔
に表すためのステップですが、実は弱点があります。因子分析・直交化はデータの中の関連性を取り除く手法ですが、すべての集
団が完璧に相関性を取り除いて整理されているわけではありません。また、因子分析・直交化をおこなうと、データ全体を表現する
量が減少することもあります。グラフを用いて、因子分析・直交化した k-means とマハラノビス汎距離を導入した k-umeyama
のクラスター分析の結果を比較したところ、その差異は一目瞭然となりました。グラフの左側は、因子分析による直交化を施したデ
ータを k-means でクラスタリングした結果です。こちらは、クラスター0 と 1 が近接し、重なり合う正円の形をしていて、異なる集団
がうまく分けられていないことを意味します。一方で、右側のグラフはマハラノビス汎距離を採用した k-umeyama のクラスタリング
結果です。こちらは、3 つのクラスターが楕円の形状をとりながら、明確に区別されており、それぞれの集団の特性や違いをより精確
に捉えることが確認できます。マハラノビス汎距離を導入することで、明らかにクラスタリングの精度と有用性が大きく向上することが
わかります。＜図 3＞
＜図 3＞クラスタリング結果（左：k-means++、右：k-umeyama）
■k-umeyama の計算モデル
ランダムに一つずつ初期シードを選びそのシードと最短距離の di を選び、すべてのデータポイントを計測。その平均距離をだした値
をシグモイド関数で変換して、次シードを抽出するためのデータポイントのウエイト付けをします。その後、初回だけユークリッド距離
で測り、サンプルをクラスターに所属させます。その後は、クラスター毎に平均と分散共分散、その一般逆行列を算出して、次にマ
ハラノビス汎距離を測って所属クラスターの更新を繰り返します。クラスターの平均値が変化しなくなったら、終了です。＜図 4＞


＜図 4＞k-umeyama の計算モデル
分析のフロー 分析内容

・ランダムに初期シードを一つ選択
① ランダムに 1 シードを選択・ ・シードとサンプル i の最短距離𝑑 𝑖 を求める
次のシードを探す
・全サンプルについて距離の平均値𝑑
̄

---

②シグモイド関数で変換 𝑦𝑖 =
1 + 𝑒𝑥𝑝{−𝑎(𝑑 𝑖 − ̄ )}
𝑑

𝑦𝑖
③次のシードを抽出する確率のウエイト 付け 𝑤𝑖 = 𝑛
∑ 𝑗=1 𝑦𝑗

・初回だけユークリッド距離を測り、近いサンプルをクラスターに所属させる
④クラスターの特性を計算
・クラスターごとに平均と分散共分散行列、その一般逆行列を算出

⑤平均からのマハラノビス汎距離を測り、
クラスター所属を更新 𝐷2 (𝑥 𝑖 , 𝑚 𝑘 ) = (𝑥 𝑖 − 𝑚 𝑘 )′ 𝑆 𝑘 −1 (𝑥 𝑖 − 𝑚 𝑘 )
④⇔⑤を繰り返す


⑥収束判定・更新・終了 クラスターの平均値が変化しなくなったら更新を終了




■精度テスト（嘴の長さ、深さ等を用いたペンギンの分類）
クラスタリングの精度確認のため、パーマペンギンデータセットを用いて、ペンギンの成鳥の 4 種類のサイズから「ヒゲペンギン」、「ジェ
ンツーペンギン」、「アデリーペンギン」の 3 群の正解のあるデータを、k-means と k-means++、k-umeyama でクラスター分
析を行い比較しました。
k-umeyama が、正解率 0.982、k-means++は 0.918、k-means が 0.775 となり、k-umeyama の分類精度が高い
結果となりました。＜図 5＞
＜図 5＞パーマペンギンデータセットを用いたクラスター分析結果（左：k-means、中央：k-means++、右：k-umeyama）
 Artwork by @allison_hors

*パーマペンギンデータセットは、南極のパーマー基地周辺のパーマー群島の島々で観察されたアデリー、ヒゲペンギン、ジェンツーペ
ンギンの成鳥のサイズ測定、嘴の長さ (mm)、 嘴の深さ (mm)、フリッパーの長さ (mm)、体重 (g)などのデータが含まれて
います。データは Kristen Gorman 博士とパーマー基地長期生態学研究（LTER）プログラムによって収集されたものを利用し
ています。
Horst, A. M., Hill, A. P., & Gorman, K. B. (2020). palmerpenguins: Palmer Archipelago (Antarctica) penguin data. R
package version 0.1.0. https://allisonhorst.github.io/palmerpenguins/. doi:10.5281/zenodo.3960218


■学会発表
2023 年 8 月 29 日（火）に行われた「日本行動計量学会 第 51 回大会」にて、k-umeyama を発表いたしました。


■開発・研究協力朝野熙彦 元東京都立大学教授 「マハラノビス研究会」の研究代表者


■引用文献
• 朝野熙彦(2023)「マハラノビス研究会報告」日本マーケティング・リサーチ協会
• Arthur, D. and Vassilvitskii, S. (2007) k-means++: the advantages of careful seeding. SODA '07: Proceedings of the eighteenth
annual ACM-SIAM symposium on discrete algorithms, 1027-1035.
• Cerioli, A. (2005) k-means cluster analysis and Mahalanobis metrics: A problematic match or an overlooked opportunity?.
Statistica Applicata, 17(1), 61-73.
• 水野欽司（1996）「多変量データ解析講義」朝倉書店
• Friedman H.P. & J. Rubin (1967) On Some Invariant Criteria for Grouping Data, Journal of the American Statistical
Association, 62:320, 1159-1178
• Pillai, K. C. S. (1955). Some new test criteria in multivariate analysis. Annals of Mathematical Statistics, 26(1), 117-121.
• Hotelling, H. (1936). Relations between two sets of variates. Biometrika, 28(3/4), 321-377.
• Fisher,R.A. (1936) The use of multiple measurements in taxonomic problems. Annals of Eugenics, 7,179-188.
• Mahalanobis,P.C. (1936) On the generalized distance in statistics. Proceedings of the National Institute of Sciences of India, 2 (1),
49-55.
• Wilks, S.S. (1932). Certain generalizations in the analysis of variance. Biometrika,24, 471–494.



■詳細内容のダウンロードはこちらから https://www.cross-m.co.jp/report/other/20230928kumeyam/


【会社概要】
会社名 ： 株式会社クロス・マーケティング https://www.cross-m.co.jp/
所在地 ： 東京都新宿区西新宿 3-20-2 東京オペラシティタワー24F
設 立 ： 2003 年 4 月 1 日
代表者 ： 代表取締役社長兼 CEO 五十嵐 幹
事業内容： マーケティング・リサーチ事業、マーケティング・リサーチに関わるコンサルテーション

◆本件に関する報道関係からのお問い合わせ先◆
広報担当： マーケティング部 TEL：03-6859-1192 FAX：03-6859-2275
E-mail ： pr-cm@cross-m.co.jp

≪引用・転載時のクレジット表記のお願い≫ 本リリースの引用・転載時には、必ず当社クレジットを明記いた
だけますようお願い申し上げます。