§
    ÛÎ¸j©  ã                  óø   — d Z ddlmZ ddlZddlZddlZddlZddlm	Z	 ddl
Z
ddlZddlZddlmZmZmZmZ ddlmZ ddlmZmZ ddlmZ dd	lmZmZ d
„ Zd„ Zd„ Zdddddœd„Zd„ Z e!dk    r e ¦   «          dS dS )zDForward latency and input preparation time on a real sensor capture.é    )ÚannotationsN)ÚPath)Úapply_normalizationÚcanonical_recordsÚ
load_frameÚscan_dataset)ÚNormalizationStats)Údevice_metadataÚresolve_device)Úletterbox_float)ÚPalletDetectorÚRFDETRDetectorc                ó^   — | j         dk    r!t          j                             | ¦  «         d S d S )NÚcuda)ÚtypeÚtorchr   Úsynchronize)Údevices    ú=/root/private/project/pallet_detection_v2/pallet/benchmark.pyÚ_syncr      s3   € Ø„{�fÒÐÝŒ
×Ò˜vÑ&Ô&Ð&Ð&Ð&ð Ðó    c                óÜ   — t          | ¦  «        }t          j        |¦  «        dz  |t          t	          |¦  «        dz
  t          dt	          |¦  «        z  ¦  «        ¦  «                 dz  dœS )Niè  é   gffffffî?)Ú	median_msÚp95_ms)ÚsortedÚ
statisticsÚmedianÚminÚlenÚint)ÚsamplesÚvaluess     r   Ú_summaryr$      sf   € Ý�G‰_Œ_€FÝ#Ô*¨6Ñ2Ô2°TÑ9Ø�S¥ V¡¤¨q¡µ#°d½SÀ¹[¼[Ñ6HÑ2IÔ2IÑJÔJÔKÈdÑRðTð Tð Tr   c                ó  ‡— t          j        ¦   «         }t          | ¦  «                             d¦  «        5 Št	          ˆfd„d¦  «        D ]}|                     |¦  «         Œ	 d d d ¦  «         n# 1 swxY w Y   |                     ¦   «         S )NÚrbc                 ó.   •— ‰                       d¦  «        S )Ni  @ )Úread)Úsources   €r   ú<lambda>z_sha256.<locals>.<lambda>$   s   ø€  &§+¢+¨oÑ">Ô">€ r   r   )ÚhashlibÚsha256r   ÚopenÚiterÚupdateÚ	hexdigest)ÚpathÚdigestÚchunkr)   s      @r   Ú_sha256r4   !   sË   ø€ ÝŒ^ÑÔ€FÝ	ˆd‰Œ�Š˜Ñ	Ô	ð ! &ÝÐ>Ð>Ð>Ð>ÀÑDÔDð 	!ð 	!ˆEØ�MŠM˜%Ñ Ô Ð Ð ð	!ð!ð !ð !ñ !ô !ð !ð !ð !ð !ð !ð !øøøð !ð !ð !ð !ð ×ÒÑÔÐs   ·,A0Á0A4Á7A4úcuda:0é€  é   é   )r   ÚsizeÚwarmupÚrepeatsc               ó`  — t          |¦  «        }|dk    s|dk     rt          d¦  «        ‚t          dd¬¦  «        }t          j        ¦   «         }t          |¦  «        }t          t          ||¦  «        |¦  «        \  }	}
}
|	                     d¦  «         	                    |¦  «        }t          |¦  «         t          j        ¦   «         |z
  g}|                      ¦   «          	                    |¦  «         |j        dk    rt          j                             |¦  «         t          j        ¦   «         5  t#          |¦  «        D ]}
 | |¦  «         Œt          |¦  «         g }t#          |¦  «        D ]g}
t          |¦  «         t          j        ¦   «         } | |¦  «         t          |¦  «         |                     t          j        ¦   «         |z
  ¦  «         Œh	 d	d	d	¦  «         n# 1 swxY w Y   t#          |¦  «        D ]¦}
t          j        ¦   «         }t          |¦  «        }t          t          ||¦  «        |¦  «        \  }}
}
|                     d¦  «         	                    |¦  «         t          |¦  «         |                     t          j        ¦   «         |z
  ¦  «         Œ§dd
|t'          |¦  «        t'          |¦  «        t)          d„ |                      ¦   «         D ¦   «         ¦  «        |j        dk    r"t          j                             |¦  «        dz  ndt/          | dd	¦  «        dœS )zKTime prepared batch-one forward passes separately from CPU PCD preparation.r6   r   z*Benchmark requires size=640 and repeats>=1iˆ  é
   )Údepth_scaleÚintensity_scaler   r   NÚfp32c              3  ó>   K  — | ]}|                      ¦   «         V — Œd S ©N)Únumel)Ú.0Úparams     r   ú	<genexpr>z"benchmark_model.<locals>.<genexpr>M   s*   è è € ÐLÐL°˜eŸkšk™mœmÐLÐLÐLÐLÐLÐLr   i   Útransfer_report)ÚbatchÚ	precisionÚ
image_sizeÚforward_onlyÚpcd_load_preprocess_and_uploadÚ
parametersÚpeak_gpu_mibÚtransfer_coverage)r   Ú
ValueErrorr	   ÚtimeÚperf_counterr   r   r   Ú	unsqueezeÚtor   Úevalr   r   r   Úreset_peak_memory_statsÚinference_modeÚrangeÚappendr$   ÚsumrM   Úmax_memory_allocatedÚgetattr)ÚmodelÚrecordr   r9   r:   r;   ÚnormalizationÚstartÚrawÚimageÚ_ÚtensorÚpreparationÚforwardÚprepareds                  r   Úbenchmark_modelrh   )   s6  € å˜FÑ#Ô#€FØˆs‚{€{�g ’k�kÝÐEÑFÔFÐFÝ&°4ÈÐLÑLÔL€MÝÔÑÔ€EÝ
�VÑ
Ô
€CÝ!Õ"5°c¸=Ñ"IÔ"IÈ4ÑPÔP�K€Eˆ1ˆaØ�_Š_˜QÑÔ×"Ò" 6Ñ*Ô*€FÝ	ˆ&�M„M€MÝÔ$Ñ&Ô&¨Ñ.Ð/€KØ	‡J‚J�L„L‡O‚O�FÑÔÐØ„{�fÒÐÝŒ
×*Ò*¨6Ñ2Ô2Ð2Ý	Ô	Ñ	Ô	ð 
8ð 
8Ý�v‘”ð 	ð 	ˆAØˆE�&‰MŒMˆMˆMÝˆf‰ŒˆØˆÝ�w‘”ð 	8ð 	8ˆAÝ�&‰MŒMˆMÝÔ%Ñ'Ô'ˆEØˆE�&‰MŒMˆMÝ�&‰MŒMˆMØ�NŠN�4Ô,Ñ.Ô.°Ñ6Ñ7Ô7Ð7Ð7ð	8ð
8ð 
8ð 
8ñ 
8ô 
8ð 
8ð 
8ð 
8ð 
8ð 
8ð 
8øøøð 
8ð 
8ð 
8ð 
8õ �7‰^Œ^ð 8ð 8ˆÝÔ!Ñ#Ô#ˆÝ˜Ñ Ô ˆÝ(Õ)<¸SÀ-Ñ)PÔ)PÐRVÑWÔW‰ˆ�!�QØ×Ò˜1ÑÔ× Ò  Ñ(Ô(Ð(Ýˆf‰ŒˆØ×Ò�4Ô,Ñ.Ô.°Ñ6Ñ7Ô7Ð7Ð7Ø V¸4Ý$ WÑ-Ô-Ý.6°{Ñ.CÔ.CÝÐLÐL¸×9IÒ9IÑ9KÔ9KÐLÑLÔLÑLÔLàŒ{˜fÒ$Ð$õ "œJ×;Ò;¸FÑCÔCÀeÑKÐKØ*+Ý!(¨Ð0AÀ4Ñ!HÔ!HðJð Jð Js   Ä2B&G%Ç%G)Ç,G)c                 óP  ‡‡‡	— t          j        ¦   «         } |                      dd¬¦  «         |                      dd¬¦  «         |                      dt          ddg¬¦  «         |                      d	d
d¬¦  «         |                      dt          d¬¦  «         |                      dd¬¦  «         |                      ¦   «         Št          ˆfd„t          t          ‰j        ¦  «        ¦  «        D ¦   «         ¦  «        }d„ d„ d„ d„ ˆfd„dœ}t          ‰j
        ¦  «        }dd‰j        |t          j        t          j                             d¦  «        t          j                             d¦  «        t#          d¦  «        t#          d¦  «        t#          d¦  «        d œi d!œ	Š	|                     ¦   «         D ]•\  Š} |¦   «         }t'          |||d"         ‰j        ‰j        ¬#¦  «        ‰	d$         ‰<   t-          ‰ˆˆ	fd%„d&D ¦   «         d'¬(¦  «         ~|d"                              d)¦  «        rt          j                             ¦   «          Œ–t5          ‰j        ¦  «        }|j                             d'd'¬*¦  «         |                     t?          j         ‰	d+¬,¦  «        d-¬.¦  «         d S )/Nz--rootz/root/private/data/pallet)Údefaultz
--frame-idz"2024_11_29/29-11-2024_07-00-28#allz--sizer6   )r   rj   Úchoicesz--devicer5   zPyTorch CUDA index or GPU UUID)rj   Úhelpz	--repeatsr8   )r   rj   z--outputz0outputs/benchmark_v3/architecture_benchmark.jsonc              3  ó<   •K  — | ]}|j         ‰j         k    ¯|V — Œd S rB   )Úframe_id)rD   ÚrowÚargss     €r   rF   zmain.<locals>.<genexpr>\   s=   øè è € ð 4ð 4˜#Ø”\ T¤]Ò2Ð2ð Ø2Ð2Ð2Ð2ð4ð 4r   c                 ó(   — t          dddd¬¦  «        S )Nr   FÚyolov8ú
yolov8s.pt©Úp2ÚfamilyÚ
pretrained©r   © r   r   r*   zmain.<locals>.<lambda>_   s   € �>¨!°¸hÐS_Ð`Ñ`Ô`€ r   c                 ó(   — t          dddd¬¦  «        S )Nr   Fzyolov8-cspnextrs   rt   rx   ry   r   r   r*   zmain.<locals>.<lambda>`   s"   € µØ�%Ð 0¸\ð2Kñ 2Kô 2K€ r   c                 ó&   — t          ddd¬¦  «        S )Nr   Fú
yolo26s.pt©ru   rw   rx   ry   r   r   r*   zmain.<locals>.<lambda>b   s   € �>¨!°À,ÐOÑOÔO€ r   c                 ó&   — t          ddd¬¦  «        S )Nr   Tr|   r}   rx   ry   r   r   r*   zmain.<locals>.<lambda>c   s   € ¥°°dÀ|Ð!TÑ!TÔ!T€ r   c                 ó0   •— t          ‰ j        d¬¦  «        S )NT)Ú
resolutionrw   )r   r9   )rp   s   €r   r*   zmain.<locals>.<lambda>d   s   ø€ ¥¸$¼)ÐPTÐ UÑ UÔ U€ r   )Úyolov8sÚyolov8s_cspnext_approximationÚyolo26sÚpallet_yolo26Úrfdetr_smallz>pretrained architecture timing; no fine-tuned accuracy impliedz'forward only, batch 1, FP32, 640 pixelsÚultralyticsÚrfdetrr|   rs   z(/root/.roboflow/models/rf-detr-small.pth)r|   rs   zrf-detr-small.pth)	ÚstatusÚmeasurementrn   r   r   r†   r‡   Úweights_sha256Úresultsr   )r   r9   r;   r‹   c                ó:   •— i | ]}|‰d          ‰         |         “ŒS )r‹   ry   )rD   ÚkeyÚnameÚresults     €€r   ú
<dictcomp>zmain.<locals>.<dictcomp>u   s<   ø€ ð Yð Yð Y¸3�S˜& Ô+¨DÔ1°#Ô6ð Yð Yð Yr   )rK   rL   rN   T)Úflushr   )ÚparentsÚexist_oké   )Úindentzutf-8)Úencoding)!ÚargparseÚArgumentParserÚadd_argumentr!   Ú
parse_argsÚnextr   r   Úrootr
   r   rn   r   Ú__version__Ú	importlibÚmetadataÚversionr4   Úitemsrh   r9   r;   ÚprintÚ
startswithr   Úempty_cacher   ÚoutputÚparentÚmkdirÚ
write_textÚjsonÚdumps)
Úparserr^   ÚvariantsrŸ   Úcreater]   r¥   rp   rŽ   r�   s
          @@@r   Úmainr®   S   s  øøø€ ÝÔ$Ñ&Ô&€FØ
×Ò˜Ð*EÐÑFÔFÐFØ
×Ò˜Ð.RÐÑSÔSÐSØ
×Ò˜¥s°CÀ#ÀÐÑGÔGÐGØ
×Ò˜
¨HÐ;[ÐÑ\Ô\Ð\Ø
×Ò˜­#°rÐÑ:Ô:Ð:Ø
×Ò˜
Ð,^ÐÑ_Ô_Ð_Ø×ÒÑÔ€DÝð 4ð 4ð 4ð 4Õ!2µ<ÀÄ	Ñ3JÔ3JÑ!KÔ!Kð 4ñ 4ô 4ñ 4ô 4€Fð aÐ`ð*Kð *KàOÐOØTÐTØUÐUÐUÐUðð €Hõ ˜tœ{Ñ+Ô+€HØXØFØœ-°8ÝÔ(½Ô9K×9SÒ9SÐTaÑ9bÔ9bÝ!Ô*×2Ò2°8Ñ<Ô<å '¨Ñ 5Ô 5Ý '¨Ñ 5Ô 5Ý'.Ð/YÑ'ZÔ'Zð!ð !ð ð	 ð 	 €Fð !ŸšÑ(Ô(ð %ð %‰ˆˆfØ�‘”ˆÝ"1°%¸ÈÐQYÔHZØ9=¼ÈDÌLð#Zñ #Zô #ZˆˆyÔ˜$Ñåˆdð Yð Yð Yð Yð YØWðYñ Yô YØ`dð	fñ 	fô 	fð 	fàØ�HÔ×(Ò(¨Ñ0Ô0ð 	%ÝŒJ×"Ò"Ñ$Ô$Ð$øÝ�$”+ÑÔ€FØ
„M×Ò ¨tÐÑ4Ô4Ð4Ø
×Ò•d”j °Ð2Ñ2Ô2¸WÐÑEÔEÐEÐEÐEr   Ú__main__)"Ú__doc__Ú
__future__r   r—   r+   Úimportlib.metadatarž   r©   Úpathlibr   r   rQ   r   Úpallet.datar   r   r   r   Úpallet.data.loaderr	   Úpallet.devicesr
   r   Úpallet.experiments.datasetr   Úpallet.modelsr   r   r   r$   r4   rh   r®   Ú__name__ry   r   r   ú<module>rº      s~  ðØ JÐ Jà "Ð "Ð "Ð "Ð "Ð "à €€€Ø €€€Ø Ð Ð Ð Ø €€€Ø Ð Ð Ð Ð Ð Ø Ð Ð Ð Ø €€€à €€€à XÐ XÐ XÐ XÐ XÐ XÐ XÐ XÐ XÐ XÐ XÐ XØ 1Ð 1Ð 1Ð 1Ð 1Ð 1Ø :Ð :Ð :Ð :Ð :Ð :Ð :Ð :Ø 6Ð 6Ð 6Ð 6Ð 6Ð 6Ø 8Ð 8Ð 8Ð 8Ð 8Ð 8Ð 8Ð 8ð'ð 'ð 'ð
Tð Tð Tðð ð ð .6¸CÈÐSUð 'Jð 'Jð 'Jð 'Jð 'JðT)Fð )Fð )FðX ˆzÒÐØ€D�F„F€F€F€Fð Ðr   