二次クロネッカー積によるトレースの派生物

1
Biasmark 2020-06-19 00:23.

私はの導関数を計算しようとしています $J$ に関して $F$。いつ $$ J = \mathrm{Tr}\lbrack(I_{N} \otimes F)^{T}A(I_{N} \otimes F)B\rbrack $$ $$ F \in \mathbb{R}^{N \times Nn},\ \ A \in \mathbb{R}^{NN \times NN}, \ \ B \in \mathbb{R}^{NNn \times NNn} $$ $ B$ は対称行列です

クロネッカー積の痕跡を含む派生物に関して同様の投稿があることに気づきました。しかし、二次方程式がある場合、それをどのように解くかはわかりません。
よろしくお願いします!

1 answers

1
greg 2020-06-19 10:53.

行列を定義する $$\eqalign{ X &= I\otimes F \\ G &= (A+A^T)XB \\ }$$ 次に、コスト関数は次のように記述できます。 $$\eqalign{ {\cal J} &= A^TX:XB \\ }$$ ここで、コロンはトレース/フロベニウス積を示します。 $$M:N = {\rm Tr}(M^TN)$$ 次に、コスト関数の微分を計算します。 $$\eqalign{ d{\cal J} &= A^TdX:XB + A^TX:dX\,B \\ &= dX:AXB + A^TXB:dX \\ &= (A+A^T)XB:dX \\ &= G:dX \\ &= G:(I\otimes dF) \\ }$$ この時点で、のSVDを計算します $G$ $$\eqalign{ &G = \sum_{k=1}^r \sigma_ku_kv_k^T \\ &u_k \in {\mathbb R}^{NN\times 1},\quad &r,\sigma_k \in {\mathbb R} \\ &v_k \in {\mathbb R}^{NNn\times 1},\quad &r = {\rm rank}(G) \\ }$$ 特異ベクトルを行列に再形成します(スタックを解除します) ${\tt1}$ 列に $N$ 列) $$\eqalign{ U_k &= {\rm Reshape}(u_k,\,\,N\times N)\;&\iff\; u_k&= {\rm vec}(U_k) \\ V_k &= {\rm Reshape}(v_k,\,Nn\times N) \;&\iff\;\;v_k&= {\rm vec}(V_k) \\ }$$ それらを使用して、勾配の計算を終了します。 $$\eqalign{ d{\cal J} &= \sum_{k=1}^r \sigma_ku_kv_k^T:(I\otimes dF) \\ &= \sum_{k=1}^r \sigma_ku_k^T(I\otimes dF)v_k \\ &= \sum_{k=1}^r \sigma_k{\rm vec}(U_k)^T{\rm vec}(dF\,V_k) \\ &= \sum_{k=1}^r \sigma_kU_k:(dF\,V_k) \\ &= \sum_{k=1}^r \sigma_kU_kV_k^T:dF \\ \frac{\partial{\cal J}}{\partial F} &= \sum_{k=1}^r \sigma_kU_kV_k^T \\ }$$

更新

この行列分解の係数を計算する方法 の結果に基づいて、 のSVDに頼ることなく解を計算できます。$G$。代わりに、標準基底を含む分解を使用します$E$-マトリックス $$\eqalign{ G &\in {\mathbb R}^{JK\times PQ},\qquad E_{kq} \in {\mathbb R}^{K\times Q},\quad C_{kq} \in {\mathbb R}^{J\times P} \\ G &= \sum_{k=1}^{K}\sum_{q=1}^{Q} C_{kq}\otimes E_{kq} \\ C_{kq} &= \sum_{j=1}^{J}\sum_{p=1}^{P} G_{(jK-K+k)(pQ-Q+q)}\;E_{jp} \\ }$$ それぞれのトレースに注意してください $C_{kq}$ 係数は、のいくつかの要素の合計です。 $G$ $$\eqalign{ {\rm Tr}(C_{kq}) &= \sum_{j=1}^{J} G_{(jK-K+k)(jQ-Q+q)} \\ }$$ セットする $\,(J,K,P,Q)\to(N,N,N,Nn)\,$ 行列が $\,(C_{kq},I)\,$ と同じ寸法になります $\,(E_{kq},F).\,$ 次に、勾配を再計算します $$\eqalign{ d{\cal J} &= G:(I\otimes dF) \\ &= \sum_{k=1}^{N}\sum_{q=1}^{Nn}\;(C_{kq}\otimes E_{kq}):(I\otimes dF) \\ &= \sum_{k=1}^{N}\sum_{q=1}^{Nn}\;(C_{kq}:I)\,(E_{kq}:dF) \\ &=\left(\sum_{k=1}^{N}\sum_{q=1}^{Nn}\; E_{kq}\;{\rm Tr}(C_{kq})\right):dF\\ \frac{\partial{\cal J}}{\partial F} &= \sum_{k=1}^{N}\sum_{q=1}^{Nn}\;E_{kq}\,{\rm Tr}(C_{kq}) \\ }$$ この式は前の式よりも複雑に見えますが、の(シャッフルおよび合計された)要素のみを使用して評価できます。$G$

勾配の成分の式は、これを非常に明確に示しています $$\eqalign{ \frac{\partial{\cal J}}{\partial F_{kq}} \;=\; {\rm Tr}(C_{kq}) \;=\; \sum_{j=1}^{N} G_{(jN-N+k)(jnN-nN+q)} \\ }$$

Related questions

MORE COOL STUFF

ダイアナ妃は、8歳でウィリアム王子を寄宿学校に送るという決定に「涙を流した」

ダイアナ妃は、8歳でウィリアム王子を寄宿学校に送るという決定に「涙を流した」

ウィリアム王子が 8 歳のときに寄宿学校に通わせたことについて、ダイアナ妃がどのように感じたかを学びましょう。

シャキール・オニールは、レイカーズのスターが彼のチキン帝国を北テキサスに拡大するにつれて、ダラスの外に永住権を購入しました

シャキール・オニールは、レイカーズのスターが彼のチキン帝国を北テキサスに拡大するにつれて、ダラスの外に永住権を購入しました

Shaquille O'Neal は最近、Big Chicken レストラン帝国を拡大するため、ダラス郊外に住居を購入しました。

「90 日間の婚約者」: イヴが逮捕され、浮気スキャンダルの後、モハメドに対する家庭内暴力の容疑に直面している — 何が起こったのか?

「90 日間の婚約者」: イヴが逮捕され、浮気スキャンダルの後、モハメドに対する家庭内暴力の容疑に直面している — 何が起こったのか?

「90日の婚約者」シーズン9のスター、イヴ・アレラーノが逮捕され、モハメド・アブデルハメドへの暴行容疑で家庭内暴力の罪に問われている.

ナターシャ・リオンは、ピーウィー・ハーマンは「ビジネスで最高のGIFを送る」と言います

ナターシャ・リオンは、ピーウィー・ハーマンは「ビジネスで最高のGIFを送る」と言います

ナターシャ・リオンは、ピーウィー・ハーマン自身、ポール・ルーベンスと親密です。彼らの友情について彼女が言ったことを発見してください。

セントヘレナのジェイコブのはしごを登るのは、気弱な人向けではありません

セントヘレナのジェイコブのはしごを登るのは、気弱な人向けではありません

セント ヘレナ島のジェイコブズ ラダーは 699 段の真っ直ぐ上る階段で、頂上に到達すると証明書が発行されるほどの難易度です。

The Secrets of Airline Travel Quiz

The Secrets of Airline Travel Quiz

Air travel is far more than getting from point A to point B safely. How much do you know about the million little details that go into flying on airplanes?

Where in the World Are You? Take our GeoGuesser Quiz

Where in the World Are You? Take our GeoGuesser Quiz

The world is a huge place, yet some GeoGuessr players know locations in mere seconds. Are you one of GeoGuessr's gifted elite? Take our quiz to find out!

バイオニック読書はあなたをより速く読むことができますか?

バイオニック読書はあなたをより速く読むことができますか?

BionicReadingアプリの人気が爆発的に高まっています。しかし、それは本当にあなたを速読術にすることができますか?

アレックストレベックはジェパディから簡単な医療休暇を取ります!

アレックストレベックはジェパディから簡単な医療休暇を取ります!

(写真:TCMのゲッティイメージズ、Emma McIntyre)Jeopardyへのビデオメッセージで!ファンのホストであるアレックス・トレベックは、10月からの転倒によって引き起こされた硬膜下血腫、またはバラエティが有益に説明しているように「脳の血栓」の手術を受けたことを明らかにしました。彼は完全に回復することが期待されていますが、彼はジェパディから脱退する予定です!彼が回復している間、しばらくの間スタジオ。

2018年のビデオゲームの予測

2018年のビデオゲームの予測

キングダムハーツIII私たち全員が核のホロコーストで死ぬわけではないと仮定すると、ビデオゲームは2018年に何をもたらすでしょうか?今週のKotakuSplitscreenで、いくつかの予測の時間です。最初のカークと私は、Gravity Rush 2ファン、警察のスワッティングコールで死にかけている罪のない男、そして以前のローガンポールの激しい論争を含む今週のニュース(13:46)について話します来年の大きな予測を立てます(34:16)。

十分な数のスクリーンを用意しているため、航空会社はシートバックエンターテインメントスクリーンを段階的に廃止しています

十分な数のスクリーンを用意しているため、航空会社はシートバックエンターテインメントスクリーンを段階的に廃止しています

写真提供者:Rich Polk / Getty Images飛行機に押し込み、実際の視線ではなく、視線を遮ることのない不自然に幸せな客室乗務員の写真に迎えられる時代は、もうすぐ終わるかもしれません。一部の航空会社では、ほぼすべての旅行で顔を罵倒する機内エンターテインメント画面が出ています。

グーグルマップはもはやあなたの安っぽい仕事について否定的なレビューを投稿することを許可しません

グーグルマップはもはやあなたの安っぽい仕事について否定的なレビューを投稿することを許可しません

写真:AP Googleは、元従業員が残した特定のビジネスレビューを禁止するようにマップポリシーを更新しました。Googleマップの「ユーザー投稿コンテンツポリシー」の新しいセクションで、Googleは「現在または以前の雇用経験について」のレビューを「利益相反」としてラベル付けするようになりました。

ケイト・ミドルトンとウィリアム王子は、彼らが子供たちと行っているスパイをテーマにした活動を共有しています

ケイト・ミドルトンとウィリアム王子は、彼らが子供たちと行っているスパイをテーマにした活動を共有しています

ケイト・ミドルトンとウィリアム王子は、子供向けのパズルの本の序文を書き、ジョージ王子、シャーロット王女、ルイ王子と一緒にテキストを読むと述べた.

事故で押しつぶされたスイカは、動物を喜ばせ水分補給するために野生生物保護団体に寄付されました

事故で押しつぶされたスイカは、動物を喜ばせ水分補給するために野生生物保護団体に寄付されました

Yak's Produce は、数十個のつぶれたメロンを野生動物のリハビリ専門家であるレスリー グリーンと彼女のルイジアナ州の救助施設で暮らす 42 匹の動物に寄付しました。

デミ・ロヴァートは、新しいミュージシャンのボーイフレンドと「幸せで健康的な関係」にあります: ソース

デミ・ロヴァートは、新しいミュージシャンのボーイフレンドと「幸せで健康的な関係」にあります: ソース

8 枚目のスタジオ アルバムのリリースに向けて準備を進めているデミ ロヴァートは、「スーパー グレート ガイ」と付き合っている、と情報筋は PEOPLE に確認しています。

Plathville の Kim と Olivia Plath が数年ぶりに言葉を交わすことへようこそ

Plathville の Kim と Olivia Plath が数年ぶりに言葉を交わすことへようこそ

イーサン プラスの誕生日のお祝いは、TLC のウェルカム トゥ プラスビルのシーズン 4 のフィナーレで、戦争中の母親のキム プラスと妻のオリビア プラスを結びつけました。

水門の修理

水門の修理

天王星と海王星の間の領域に向かって宇宙を 3/4 g の低温で航行しながら、私たちは数週間燃え続けていました。Dawson Trawler の科学者が Yggdrasil ポータルと呼んだもの。

美しいもの

美しいもの

女性として、私は通常、関係を築くことをためらっています。私はいつも彼らに負けないように苦労しました。私は誰かと共有したいという衝動と戦わなければなりません。

逃走中の女性からの発信

最も家が必要なときに家のように感じる場所はありません。

逃走中の女性からの発信

私は誰よりも移動しました。父が住んでいた土地には、父が 1 歳馬を折るミニチュアの競馬場がありました。

死にゆく男から学んだ最大の人生の教訓

彼は、私たちが持っているのはこの現在の瞬間だけであることを知るのが遅すぎました。

死にゆく男から学んだ最大の人生の教訓

ブラッドは、カーキ色のショート パンツとポロ シャツを着たまま、白いゴルフ グローブを両手で高く引っ張ったまま、ベッドルームに入ってきました。彼は満面の笑みを浮かべながら、「今年は私の人生で最高の年だったと思います!」と言いました。通常は保守的な消費者である私たちは、通常とは異なることをしました。

Language