§
    û¸¸j…   ã                   ót   — d dl mZ d dlmZ d dlmZ d dlmZ d dlm	Z	  ee
¦  «        Z G d„ de¦  «        ZdS )	é    )Ú	getLogger)ÚFusion)ÚFusionUtils)Úhelper)Ú	OnnxModelc                   ó4   ‡ — e Zd Zdefˆ fd„Zdedefd„Zˆ xZS )ÚFusionQOrderedMatMulÚmodelc                 óN   •— t          ¦   «                              |dd¦  «         d S )NÚQOrderedMatMulÚMatMul)ÚsuperÚ__init__)Úselfr
   Ú	__class__s     €ú/root/private/project/pallet_detection_v2/.venv/lib/python3.11/site-packages/onnxruntime/transformers/fusion_qordered_matmul.pyr   zFusionQOrderedMatMul.__init__   s&   ø€ Ý‰Œ×Ò˜Ð 0°(Ñ;Ô;Ð;Ð;Ð;ó    Úinput_name_to_nodesÚoutput_name_to_nodec           	      óš  — | j                              ||¦  «        }t          |¦  «        dk    s|d         j        dk    rd S |d         }d}| j                              |j        d         ¦  «        €'| j                              |j        d         ¦  «        €d S | j                              |j        d         ¦  «        €d}| j                              ||¦  «        }t          |¦  «        dk    rd S |d         }d }	d }
|j        dk    rL|}	| j                              |	|¦  «        }t          |¦  «        dk    s|d         j        dk    rd S |d         }
n|j        dk    r|}
nd S t          j        |
| j         ¦  «        sd S | j                              |dgdgfg|¦  «        \  }}}d }d }|dk     rH| j                              |g d¢g d¢fg|¦  «        \  }}}|dk     rd S |d         }|d         }|d         }n|d         }t          j        || j         ¦  «        sd S d }d	}| j                              |g d
¢g d¢fg|¦  «        \  }}}|dk     r6| j                              |dgdgfg|¦  «        \  }}}|dk     rd S |d         }n
d}|d         }| j                              |j        d         ¦  «        €d S t          j        || j         d¦  «        sd S d }|	�5| j                              |	dgdgfg|¦  «        \  }}}|dk     rd S |d         }|�t          j        || j         ¦  «        sd S ||g}|	�| 	                    |	g¦  «         | 	                    |¦  «         | 	                    |
g¦  «         | j          
                    ||
j        ||¦  «        st                               d¦  «         d S |�2| j                              ||j        d         |j        d         ¦  «         |�|j        d         n|j        d         |j        d         |j        d         |j        d         |
j        d         |j        |         g}|	�@|                     |j        d         ¦  «         |                     |j        d         ¦  «         |r9| j                              |j        d         ¦  «        }t          j        |¦  «         t%          j        d||
j        d         g| j                              dd¬¦  «        ¬¦  «        }|j         	                    t%          j        dd¦  «        g¦  «         |j         	                    t%          j        dd¦  «        g¦  «         |j         	                    t%          j        dd¦  «        g¦  «         d|_        | j         	                    |¦  «         | j                             |¦  «         | j        | j        |j        <   d S )Né   r   ÚAddÚQuantizeLinearÚDequantizeLinear)ÚReshapeÚ	Transposer   r   )r   r   r   r   é   T)r   r   r   r   )r   r   r   r   Fé   z0It is not safe to fuse QOrderedMatMul node. Skipr   )Úname_prefix)ÚinputsÚoutputsÚnameÚorder_AÚorder_BÚorder_Yzcom.microsoft)r
   Úget_childrenÚlenÚop_typeÚget_constant_valueÚinputr   Úcheck_qdq_node_for_fusionÚmatch_parent_pathsÚextendÚis_safe_to_fuse_nodesÚoutputÚloggerÚdebugÚreplace_node_inputÚappendÚget_initializerÚtranspose_2d_int8_tensorr   Ú	make_nodeÚcreate_node_nameÚ	attributeÚmake_attributeÚdomainÚnodes_to_removeÚnodes_to_addÚthis_graph_nameÚnode_name_to_graph_namer"   )r   Únoder   r   Úmatmul_childrenÚbias_add_nodeÚbias_add_node_indexÚbias_add_childrenÚbias_add_childÚresidual_add_nodeÚdownstream_quantize_nodeÚresidual_add_childrenÚfirst_path_idÚfirst_input_parent_nodesÚ_Úreshape_node_0Útranspose_node_0Údequantize_node_0Údequantize_node_1Úis_weight_transpose_requiredÚweight_path_idÚweight_nodesÚresidual_add_dequantize_nodeÚresidual_path_idÚresidual_input_parent_nodesÚsubgraph_nodesÚfused_node_inputsÚweight_tensorÚ
fused_nodes                                r   ÚfusezFusionQOrderedMatMul.fuse   sá  € Øœ*×1Ò1°$Ð8KÑLÔLˆõ ˆÑÔ 1Ò$Ð$¨¸Ô(:Ô(BÀeÒ(KÐ(KØˆFà'¨Ô*ˆð  ÐàŒJ×)Ò)¨-Ô*=¸aÔ*@ÑAÔAÐIØ”
×-Ò-¨mÔ.AÀ!Ô.DÑEÔEÐMàˆFàŒ:×(Ò(¨Ô)<¸QÔ)?Ñ@Ô@ÐHØ"#Ðà œJ×3Ò3°MÐCVÑWÔWÐåÐ Ñ!Ô! QÒ&Ð&ØˆFà*¨1Ô-ˆð !Ðà#'Ð àÔ! UÒ*Ð*Ø .Ðà$(¤J×$;Ò$;Ð<MÐObÑ$cÔ$cÐ!åÐ(Ñ)Ô)¨QÒ.Ð.Ð2GÈÔ2JÔ2RÐVfÒ2fÐ2fØ�à'<¸QÔ'?Ð$Ð$àÔ#Ð'7Ò7Ð7Ø'5Ð$Ð$ð ˆFõ Ô4Ð5MÈtÌzÑZÔZð 	ØˆFð 6:´Z×5RÒ5RØØ!Ð" Q CÐ(Ð)Øñ6
ô 6
Ñ2ˆÐ/°ð ˆØÐØ˜1ÒÐØ9=¼×9VÒ9VØØPÐPÐPÐR^ÐR^ÐR^Ð_Ð`Ø#ñ:ô :Ñ6ˆMÐ3°Qð ˜qÒ Ð Ø�à5°aÔ8ˆNØ7¸Ô:ÐØ 8¸Ô ;ÐÐà 8¸Ô ;Ðõ Ô4Ð5FÈÌ
ÑSÔSð 	ØˆFð !ÐØ'+Ð$à*.¬*×*GÒ*GØØUÐUÐUÐWcÐWcÐWcÐdÐeØñ+
ô +
Ñ'ˆ˜ að ˜AÒÐØ.2¬j×.KÒ.KØØ%Ð&¨¨Ð,Ð-Ø#ñ/ô /Ñ+ˆN˜L¨!ð  Ò!Ð!Ø�à ,¨Q¤ÐÐà+0Ð(Ø ,¨Q¤Ðð Œ:×(Ò(Ð):Ô)@ÀÔ)CÑDÔDÐLØˆFõ Ô4Ð5FÈÌ
ÐTYÑZÔZð 	ØˆFð (,Ð$àÐ(Ø?C¼z×?\Ò?\Ø!à(Ð)¨A¨3Ð/ðð $ñ@ô @Ñ<ÐÐ9¸1ð   !Ò#Ð#Ø�à+FÀqÔ+IÐ(ð (Ð3½KÔ<aØ(¨$¬*ñ=
ô =
Ð3ð ˆFð  Ð.ˆàÐ(Ø×!Ò!Ð#4Ð"5Ñ6Ô6Ð6à×Ò˜lÑ+Ô+Ð+Ø×ÒÐ7Ð8Ñ9Ô9Ð9àŒz×/Ò/ØÐ4Ô;Ð=PÐReñ
ô 
ð 	õ �LŠLÐKÑLÔLÐLØˆFð Ð'ØŒJ×)Ò)Ð*:Ð<LÔ<RÐSTÔ<UÐWhÔWnÐopÔWqÑrÔrÐrð )7Ð(BˆNÔ! !Ô$Ð$ÐHYÔH_Ð`aÔHbØÔ# AÔ&ØÔ# AÔ&ØÔ# AÔ&Ø$Ô*¨1Ô-ØÔÐ 3Ô4ð
Ðð Ð(Ø×$Ò$Ð%AÔ%GÈÔ%JÑKÔKÐKØ×$Ò$Ð%AÔ%GÈÔ%JÑKÔKÐKð (ð 	@Ø œJ×6Ò6Ð7HÔ7NÈqÔ7QÑRÔRˆMÝÔ0°Ñ?Ô?Ð?åÔ%ØØ$Ø-Ô4°QÔ7Ð8Ø”×,Ò,Ð-=ÐK[Ð,Ñ\Ô\ð	
ñ 
ô 
ˆ
ð 	Ô×#Ò#¥VÔ%:¸9ÀaÑ%HÔ%HÐ$IÑJÔJÐJØÔ×#Ò#¥VÔ%:¸9ÀaÑ%HÔ%HÐ$IÑJÔJÐJØÔ×#Ò#¥VÔ%:¸9ÀaÑ%HÔ%HÐ$IÑJÔJÐJà+ˆ
ÔàÔ×#Ò# NÑ3Ô3Ð3ØÔ× Ò  Ñ,Ô,Ð,Ø8<Ô8LˆÔ$ Z¤_Ñ5Ð5Ð5r   )Ú__name__Ú
__module__Ú__qualname__r   r   ÚdictrY   Ú__classcell__)r   s   @r   r	   r	      sz   ø€ € € € € ð<˜ið <ð <ð <ð <ð <ð <ðDM¨dð DMÈð DMð DMð DMð DMð DMð DMð DMð DMr   r	   N)Úloggingr   Úfusion_baser   Úfusion_utilsr   Úonnxr   Ú
onnx_modelr   rZ   r0   r	   © r   r   ú<module>re      s¸   ðð Ð Ð Ð Ð Ð à Ð Ð Ð Ð Ð Ø $Ð $Ð $Ð $Ð $Ð $Ø Ð Ð Ð Ð Ð Ø  Ð  Ð  Ð  Ð  Ð  à	ˆ�8Ñ	Ô	€ðHMð HMð HMð HMð HM˜6ñ HMô HMð HMð HMð HMr   