1########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+() ##########
2# sparse tensor
3tensor(ccol_indices=tensor([[[0, 2, 3, 4],
4                             [0, 2, 3, 4],
5                             [0, 2, 3, 4]],
6
7                            [[0, 1, 3, 4],
8                             [0, 2, 3, 4],
9                             [0, 1, 3, 4]]]),
10       row_indices=tensor([[[0, 1, 0, 1],
11                            [0, 1, 0, 0],
12                            [0, 1, 1, 1]],
13
14                           [[1, 0, 1, 1],
15                            [0, 1, 1, 0],
16                            [0, 0, 1, 0]]]),
17       values=tensor([[[1., 3., 2., 4.],
18                       [1., 4., 2., 3.],
19                       [1., 2., 3., 4.]],
20
21                      [[2., 1., 3., 4.],
22                       [1., 3., 4., 2.],
23                       [1., 2., 4., 3.]]]), device='cuda:0', size=(2, 3, 2, 3),
24       nnz=4, layout=torch.sparse_csc)
25# _ccol_indices
26tensor([[[0, 2, 3, 4],
27         [0, 2, 3, 4],
28         [0, 2, 3, 4]],
29
30        [[0, 1, 3, 4],
31         [0, 2, 3, 4],
32         [0, 1, 3, 4]]], device='cuda:0', dtype=torch.int32)
33# _row_indices
34tensor([[[0, 1, 0, 1],
35         [0, 1, 0, 0],
36         [0, 1, 1, 1]],
37
38        [[1, 0, 1, 1],
39         [0, 1, 1, 0],
40         [0, 0, 1, 0]]], device='cuda:0', dtype=torch.int32)
41# _values
42tensor([[[1., 3., 2., 4.],
43         [1., 4., 2., 3.],
44         [1., 2., 3., 4.]],
45
46        [[2., 1., 3., 4.],
47         [1., 3., 4., 2.],
48         [1., 2., 4., 3.]]], device='cuda:0')
49
50########## torch.float32/torch.int32/size=()+(8, 6)+() ##########
51# sparse tensor
52tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
53       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
54                           7, 0, 4, 5, 6, 7]),
55       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
56                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
57                      19., 24.]), device='cuda:0', size=(8, 6), nnz=24,
58       layout=torch.sparse_csc)
59# _ccol_indices
60tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0', dtype=torch.int32)
61# _row_indices
62tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
63       device='cuda:0', dtype=torch.int32)
64# _values
65tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
66         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], device='cuda:0')
67
68
69########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+() ##########
70# sparse tensor
71tensor(ccol_indices=tensor([[[0, 2, 3, 4],
72                             [0, 2, 3, 4],
73                             [0, 2, 3, 4]],
74
75                            [[0, 1, 3, 4],
76                             [0, 2, 3, 4],
77                             [0, 1, 3, 4]]]),
78       row_indices=tensor([[[0, 1, 0, 1],
79                            [0, 1, 0, 0],
80                            [0, 1, 1, 1]],
81
82                           [[1, 0, 1, 1],
83                            [0, 1, 1, 0],
84                            [0, 0, 1, 0]]]),
85       values=tensor([[[1., 3., 2., 4.],
86                       [1., 4., 2., 3.],
87                       [1., 2., 3., 4.]],
88
89                      [[2., 1., 3., 4.],
90                       [1., 3., 4., 2.],
91                       [1., 2., 4., 3.]]]), device='cuda:0', size=(2, 3, 2, 3),
92       nnz=4, dtype=torch.float64, layout=torch.sparse_csc)
93# _ccol_indices
94tensor([[[0, 2, 3, 4],
95         [0, 2, 3, 4],
96         [0, 2, 3, 4]],
97
98        [[0, 1, 3, 4],
99         [0, 2, 3, 4],
100         [0, 1, 3, 4]]], device='cuda:0', dtype=torch.int32)
101# _row_indices
102tensor([[[0, 1, 0, 1],
103         [0, 1, 0, 0],
104         [0, 1, 1, 1]],
105
106        [[1, 0, 1, 1],
107         [0, 1, 1, 0],
108         [0, 0, 1, 0]]], device='cuda:0', dtype=torch.int32)
109# _values
110tensor([[[1., 3., 2., 4.],
111         [1., 4., 2., 3.],
112         [1., 2., 3., 4.]],
113
114        [[2., 1., 3., 4.],
115         [1., 3., 4., 2.],
116         [1., 2., 4., 3.]]], device='cuda:0', dtype=torch.float64)
117
118########## torch.float64/torch.int32/size=()+(8, 6)+() ##########
119# sparse tensor
120tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
121       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
122                           7, 0, 4, 5, 6, 7]),
123       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
124                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
125                      19., 24.]), device='cuda:0', size=(8, 6), nnz=24,
126       dtype=torch.float64, layout=torch.sparse_csc)
127# _ccol_indices
128tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0', dtype=torch.int32)
129# _row_indices
130tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
131       device='cuda:0', dtype=torch.int32)
132# _values
133tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
134         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], device='cuda:0',
135       dtype=torch.float64)
136
137
138########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+() ##########
139# sparse tensor
140tensor(ccol_indices=tensor([[[0, 2, 3, 4],
141                             [0, 2, 3, 4],
142                             [0, 2, 3, 4]],
143
144                            [[0, 1, 3, 4],
145                             [0, 2, 3, 4],
146                             [0, 1, 3, 4]]]),
147       row_indices=tensor([[[0, 1, 0, 1],
148                            [0, 1, 0, 0],
149                            [0, 1, 1, 1]],
150
151                           [[1, 0, 1, 1],
152                            [0, 1, 1, 0],
153                            [0, 0, 1, 0]]]),
154       values=tensor([[[1., 3., 2., 4.],
155                       [1., 4., 2., 3.],
156                       [1., 2., 3., 4.]],
157
158                      [[2., 1., 3., 4.],
159                       [1., 3., 4., 2.],
160                       [1., 2., 4., 3.]]]), device='cuda:0', size=(2, 3, 2, 3),
161       nnz=4, layout=torch.sparse_csc)
162# _ccol_indices
163tensor([[[0, 2, 3, 4],
164         [0, 2, 3, 4],
165         [0, 2, 3, 4]],
166
167        [[0, 1, 3, 4],
168         [0, 2, 3, 4],
169         [0, 1, 3, 4]]], device='cuda:0')
170# _row_indices
171tensor([[[0, 1, 0, 1],
172         [0, 1, 0, 0],
173         [0, 1, 1, 1]],
174
175        [[1, 0, 1, 1],
176         [0, 1, 1, 0],
177         [0, 0, 1, 0]]], device='cuda:0')
178# _values
179tensor([[[1., 3., 2., 4.],
180         [1., 4., 2., 3.],
181         [1., 2., 3., 4.]],
182
183        [[2., 1., 3., 4.],
184         [1., 3., 4., 2.],
185         [1., 2., 4., 3.]]], device='cuda:0')
186
187########## torch.float32/torch.int64/size=()+(8, 6)+() ##########
188# sparse tensor
189tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
190       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
191                           7, 0, 4, 5, 6, 7]),
192       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
193                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
194                      19., 24.]), device='cuda:0', size=(8, 6), nnz=24,
195       layout=torch.sparse_csc)
196# _ccol_indices
197tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0')
198# _row_indices
199tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
200       device='cuda:0')
201# _values
202tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
203         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], device='cuda:0')
204
205
206########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+() ##########
207# sparse tensor
208tensor(ccol_indices=tensor([[[0, 2, 3, 4],
209                             [0, 2, 3, 4],
210                             [0, 2, 3, 4]],
211
212                            [[0, 1, 3, 4],
213                             [0, 2, 3, 4],
214                             [0, 1, 3, 4]]]),
215       row_indices=tensor([[[0, 1, 0, 1],
216                            [0, 1, 0, 0],
217                            [0, 1, 1, 1]],
218
219                           [[1, 0, 1, 1],
220                            [0, 1, 1, 0],
221                            [0, 0, 1, 0]]]),
222       values=tensor([[[1., 3., 2., 4.],
223                       [1., 4., 2., 3.],
224                       [1., 2., 3., 4.]],
225
226                      [[2., 1., 3., 4.],
227                       [1., 3., 4., 2.],
228                       [1., 2., 4., 3.]]]), device='cuda:0', size=(2, 3, 2, 3),
229       nnz=4, dtype=torch.float64, layout=torch.sparse_csc)
230# _ccol_indices
231tensor([[[0, 2, 3, 4],
232         [0, 2, 3, 4],
233         [0, 2, 3, 4]],
234
235        [[0, 1, 3, 4],
236         [0, 2, 3, 4],
237         [0, 1, 3, 4]]], device='cuda:0')
238# _row_indices
239tensor([[[0, 1, 0, 1],
240         [0, 1, 0, 0],
241         [0, 1, 1, 1]],
242
243        [[1, 0, 1, 1],
244         [0, 1, 1, 0],
245         [0, 0, 1, 0]]], device='cuda:0')
246# _values
247tensor([[[1., 3., 2., 4.],
248         [1., 4., 2., 3.],
249         [1., 2., 3., 4.]],
250
251        [[2., 1., 3., 4.],
252         [1., 3., 4., 2.],
253         [1., 2., 4., 3.]]], device='cuda:0', dtype=torch.float64)
254
255########## torch.float64/torch.int64/size=()+(8, 6)+() ##########
256# sparse tensor
257tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
258       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
259                           7, 0, 4, 5, 6, 7]),
260       values=tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,
261                       2., 10., 15.,  5., 11., 16., 18., 23.,  3., 12., 17.,
262                      19., 24.]), device='cuda:0', size=(8, 6), nnz=24,
263       dtype=torch.float64, layout=torch.sparse_csc)
264# _ccol_indices
265tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0')
266# _row_indices
267tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
268       device='cuda:0')
269# _values
270tensor([ 6., 13., 20.,  1.,  4.,  7.,  9., 21.,  8., 14., 22.,  2., 10., 15.,
271         5., 11., 16., 18., 23.,  3., 12., 17., 19., 24.], device='cuda:0',
272       dtype=torch.float64)
273
274
275########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+(4,) ##########
276# sparse tensor
277tensor(ccol_indices=tensor([[[0, 2, 3, 4],
278                             [0, 2, 3, 4],
279                             [0, 2, 3, 4]],
280
281                            [[0, 1, 3, 4],
282                             [0, 2, 3, 4],
283                             [0, 1, 3, 4]]]),
284       row_indices=tensor([[[0, 1, 0, 1],
285                            [0, 1, 0, 0],
286                            [0, 1, 1, 1]],
287
288                           [[1, 0, 1, 1],
289                            [0, 1, 1, 0],
290                            [0, 0, 1, 0]]]),
291       values=tensor([[[[1., 2., 3., 4.],
292                        [3., 4., 5., 6.],
293                        [2., 3., 4., 5.],
294                        [4., 5., 6., 7.]],
295
296                       [[1., 2., 3., 4.],
297                        [4., 5., 6., 7.],
298                        [2., 3., 4., 5.],
299                        [3., 4., 5., 6.]],
300
301                       [[1., 2., 3., 4.],
302                        [2., 3., 4., 5.],
303                        [3., 4., 5., 6.],
304                        [4., 5., 6., 7.]]],
305
306
307                      [[[2., 3., 4., 5.],
308                        [1., 2., 3., 4.],
309                        [3., 4., 5., 6.],
310                        [4., 5., 6., 7.]],
311
312                       [[1., 2., 3., 4.],
313                        [3., 4., 5., 6.],
314                        [4., 5., 6., 7.],
315                        [2., 3., 4., 5.]],
316
317                       [[1., 2., 3., 4.],
318                        [2., 3., 4., 5.],
319                        [4., 5., 6., 7.],
320                        [3., 4., 5., 6.]]]]), device='cuda:0',
321       size=(2, 3, 2, 3, 4), nnz=4, layout=torch.sparse_csc)
322# _ccol_indices
323tensor([[[0, 2, 3, 4],
324         [0, 2, 3, 4],
325         [0, 2, 3, 4]],
326
327        [[0, 1, 3, 4],
328         [0, 2, 3, 4],
329         [0, 1, 3, 4]]], device='cuda:0', dtype=torch.int32)
330# _row_indices
331tensor([[[0, 1, 0, 1],
332         [0, 1, 0, 0],
333         [0, 1, 1, 1]],
334
335        [[1, 0, 1, 1],
336         [0, 1, 1, 0],
337         [0, 0, 1, 0]]], device='cuda:0', dtype=torch.int32)
338# _values
339tensor([[[[1., 2., 3., 4.],
340          [3., 4., 5., 6.],
341          [2., 3., 4., 5.],
342          [4., 5., 6., 7.]],
343
344         [[1., 2., 3., 4.],
345          [4., 5., 6., 7.],
346          [2., 3., 4., 5.],
347          [3., 4., 5., 6.]],
348
349         [[1., 2., 3., 4.],
350          [2., 3., 4., 5.],
351          [3., 4., 5., 6.],
352          [4., 5., 6., 7.]]],
353
354
355        [[[2., 3., 4., 5.],
356          [1., 2., 3., 4.],
357          [3., 4., 5., 6.],
358          [4., 5., 6., 7.]],
359
360         [[1., 2., 3., 4.],
361          [3., 4., 5., 6.],
362          [4., 5., 6., 7.],
363          [2., 3., 4., 5.]],
364
365         [[1., 2., 3., 4.],
366          [2., 3., 4., 5.],
367          [4., 5., 6., 7.],
368          [3., 4., 5., 6.]]]], device='cuda:0')
369
370########## torch.float32/torch.int32/size=()+(8, 6)+(4, 2) ##########
371# sparse tensor
372tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
373       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
374                           7, 0, 4, 5, 6, 7]),
375       values=tensor([[[ 6., 16.],
376                       [ 7., 17.],
377                       [ 8., 18.],
378                       [ 9., 19.]],
379
380                      [[13., 23.],
381                       [14., 24.],
382                       [15., 25.],
383                       [16., 26.]],
384
385                      [[20., 30.],
386                       [21., 31.],
387                       [22., 32.],
388                       [23., 33.]],
389
390                      [[ 1., 11.],
391                       [ 2., 12.],
392                       [ 3., 13.],
393                       [ 4., 14.]],
394
395                      [[ 4., 14.],
396                       [ 5., 15.],
397                       [ 6., 16.],
398                       [ 7., 17.]],
399
400                      [[ 7., 17.],
401                       [ 8., 18.],
402                       [ 9., 19.],
403                       [10., 20.]],
404
405                      [[ 9., 19.],
406                       [10., 20.],
407                       [11., 21.],
408                       [12., 22.]],
409
410                      [[21., 31.],
411                       [22., 32.],
412                       [23., 33.],
413                       [24., 34.]],
414
415                      [[ 8., 18.],
416                       [ 9., 19.],
417                       [10., 20.],
418                       [11., 21.]],
419
420                      [[14., 24.],
421                       [15., 25.],
422                       [16., 26.],
423                       [17., 27.]],
424
425                      [[22., 32.],
426                       [23., 33.],
427                       [24., 34.],
428                       [25., 35.]],
429
430                      [[ 2., 12.],
431                       [ 3., 13.],
432                       [ 4., 14.],
433                       [ 5., 15.]],
434
435                      [[10., 20.],
436                       [11., 21.],
437                       [12., 22.],
438                       [13., 23.]],
439
440                      [[15., 25.],
441                       [16., 26.],
442                       [17., 27.],
443                       [18., 28.]],
444
445                      [[ 5., 15.],
446                       [ 6., 16.],
447                       [ 7., 17.],
448                       [ 8., 18.]],
449
450                      [[11., 21.],
451                       [12., 22.],
452                       [13., 23.],
453                       [14., 24.]],
454
455                      [[16., 26.],
456                       [17., 27.],
457                       [18., 28.],
458                       [19., 29.]],
459
460                      [[18., 28.],
461                       [19., 29.],
462                       [20., 30.],
463                       [21., 31.]],
464
465                      [[23., 33.],
466                       [24., 34.],
467                       [25., 35.],
468                       [26., 36.]],
469
470                      [[ 3., 13.],
471                       [ 4., 14.],
472                       [ 5., 15.],
473                       [ 6., 16.]],
474
475                      [[12., 22.],
476                       [13., 23.],
477                       [14., 24.],
478                       [15., 25.]],
479
480                      [[17., 27.],
481                       [18., 28.],
482                       [19., 29.],
483                       [20., 30.]],
484
485                      [[19., 29.],
486                       [20., 30.],
487                       [21., 31.],
488                       [22., 32.]],
489
490                      [[24., 34.],
491                       [25., 35.],
492                       [26., 36.],
493                       [27., 37.]]]), device='cuda:0', size=(8, 6, 4, 2),
494       nnz=24, layout=torch.sparse_csc)
495# _ccol_indices
496tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0', dtype=torch.int32)
497# _row_indices
498tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
499       device='cuda:0', dtype=torch.int32)
500# _values
501tensor([[[ 6., 16.],
502         [ 7., 17.],
503         [ 8., 18.],
504         [ 9., 19.]],
505
506        [[13., 23.],
507         [14., 24.],
508         [15., 25.],
509         [16., 26.]],
510
511        [[20., 30.],
512         [21., 31.],
513         [22., 32.],
514         [23., 33.]],
515
516        [[ 1., 11.],
517         [ 2., 12.],
518         [ 3., 13.],
519         [ 4., 14.]],
520
521        [[ 4., 14.],
522         [ 5., 15.],
523         [ 6., 16.],
524         [ 7., 17.]],
525
526        [[ 7., 17.],
527         [ 8., 18.],
528         [ 9., 19.],
529         [10., 20.]],
530
531        [[ 9., 19.],
532         [10., 20.],
533         [11., 21.],
534         [12., 22.]],
535
536        [[21., 31.],
537         [22., 32.],
538         [23., 33.],
539         [24., 34.]],
540
541        [[ 8., 18.],
542         [ 9., 19.],
543         [10., 20.],
544         [11., 21.]],
545
546        [[14., 24.],
547         [15., 25.],
548         [16., 26.],
549         [17., 27.]],
550
551        [[22., 32.],
552         [23., 33.],
553         [24., 34.],
554         [25., 35.]],
555
556        [[ 2., 12.],
557         [ 3., 13.],
558         [ 4., 14.],
559         [ 5., 15.]],
560
561        [[10., 20.],
562         [11., 21.],
563         [12., 22.],
564         [13., 23.]],
565
566        [[15., 25.],
567         [16., 26.],
568         [17., 27.],
569         [18., 28.]],
570
571        [[ 5., 15.],
572         [ 6., 16.],
573         [ 7., 17.],
574         [ 8., 18.]],
575
576        [[11., 21.],
577         [12., 22.],
578         [13., 23.],
579         [14., 24.]],
580
581        [[16., 26.],
582         [17., 27.],
583         [18., 28.],
584         [19., 29.]],
585
586        [[18., 28.],
587         [19., 29.],
588         [20., 30.],
589         [21., 31.]],
590
591        [[23., 33.],
592         [24., 34.],
593         [25., 35.],
594         [26., 36.]],
595
596        [[ 3., 13.],
597         [ 4., 14.],
598         [ 5., 15.],
599         [ 6., 16.]],
600
601        [[12., 22.],
602         [13., 23.],
603         [14., 24.],
604         [15., 25.]],
605
606        [[17., 27.],
607         [18., 28.],
608         [19., 29.],
609         [20., 30.]],
610
611        [[19., 29.],
612         [20., 30.],
613         [21., 31.],
614         [22., 32.]],
615
616        [[24., 34.],
617         [25., 35.],
618         [26., 36.],
619         [27., 37.]]], device='cuda:0')
620
621
622########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+(4,) ##########
623# sparse tensor
624tensor(ccol_indices=tensor([[[0, 2, 3, 4],
625                             [0, 2, 3, 4],
626                             [0, 2, 3, 4]],
627
628                            [[0, 1, 3, 4],
629                             [0, 2, 3, 4],
630                             [0, 1, 3, 4]]]),
631       row_indices=tensor([[[0, 1, 0, 1],
632                            [0, 1, 0, 0],
633                            [0, 1, 1, 1]],
634
635                           [[1, 0, 1, 1],
636                            [0, 1, 1, 0],
637                            [0, 0, 1, 0]]]),
638       values=tensor([[[[1., 2., 3., 4.],
639                        [3., 4., 5., 6.],
640                        [2., 3., 4., 5.],
641                        [4., 5., 6., 7.]],
642
643                       [[1., 2., 3., 4.],
644                        [4., 5., 6., 7.],
645                        [2., 3., 4., 5.],
646                        [3., 4., 5., 6.]],
647
648                       [[1., 2., 3., 4.],
649                        [2., 3., 4., 5.],
650                        [3., 4., 5., 6.],
651                        [4., 5., 6., 7.]]],
652
653
654                      [[[2., 3., 4., 5.],
655                        [1., 2., 3., 4.],
656                        [3., 4., 5., 6.],
657                        [4., 5., 6., 7.]],
658
659                       [[1., 2., 3., 4.],
660                        [3., 4., 5., 6.],
661                        [4., 5., 6., 7.],
662                        [2., 3., 4., 5.]],
663
664                       [[1., 2., 3., 4.],
665                        [2., 3., 4., 5.],
666                        [4., 5., 6., 7.],
667                        [3., 4., 5., 6.]]]]), device='cuda:0',
668       size=(2, 3, 2, 3, 4), nnz=4, dtype=torch.float64, layout=torch.sparse_csc)
669# _ccol_indices
670tensor([[[0, 2, 3, 4],
671         [0, 2, 3, 4],
672         [0, 2, 3, 4]],
673
674        [[0, 1, 3, 4],
675         [0, 2, 3, 4],
676         [0, 1, 3, 4]]], device='cuda:0', dtype=torch.int32)
677# _row_indices
678tensor([[[0, 1, 0, 1],
679         [0, 1, 0, 0],
680         [0, 1, 1, 1]],
681
682        [[1, 0, 1, 1],
683         [0, 1, 1, 0],
684         [0, 0, 1, 0]]], device='cuda:0', dtype=torch.int32)
685# _values
686tensor([[[[1., 2., 3., 4.],
687          [3., 4., 5., 6.],
688          [2., 3., 4., 5.],
689          [4., 5., 6., 7.]],
690
691         [[1., 2., 3., 4.],
692          [4., 5., 6., 7.],
693          [2., 3., 4., 5.],
694          [3., 4., 5., 6.]],
695
696         [[1., 2., 3., 4.],
697          [2., 3., 4., 5.],
698          [3., 4., 5., 6.],
699          [4., 5., 6., 7.]]],
700
701
702        [[[2., 3., 4., 5.],
703          [1., 2., 3., 4.],
704          [3., 4., 5., 6.],
705          [4., 5., 6., 7.]],
706
707         [[1., 2., 3., 4.],
708          [3., 4., 5., 6.],
709          [4., 5., 6., 7.],
710          [2., 3., 4., 5.]],
711
712         [[1., 2., 3., 4.],
713          [2., 3., 4., 5.],
714          [4., 5., 6., 7.],
715          [3., 4., 5., 6.]]]], device='cuda:0', dtype=torch.float64)
716
717########## torch.float64/torch.int32/size=()+(8, 6)+(4, 2) ##########
718# sparse tensor
719tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
720       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
721                           7, 0, 4, 5, 6, 7]),
722       values=tensor([[[ 6., 16.],
723                       [ 7., 17.],
724                       [ 8., 18.],
725                       [ 9., 19.]],
726
727                      [[13., 23.],
728                       [14., 24.],
729                       [15., 25.],
730                       [16., 26.]],
731
732                      [[20., 30.],
733                       [21., 31.],
734                       [22., 32.],
735                       [23., 33.]],
736
737                      [[ 1., 11.],
738                       [ 2., 12.],
739                       [ 3., 13.],
740                       [ 4., 14.]],
741
742                      [[ 4., 14.],
743                       [ 5., 15.],
744                       [ 6., 16.],
745                       [ 7., 17.]],
746
747                      [[ 7., 17.],
748                       [ 8., 18.],
749                       [ 9., 19.],
750                       [10., 20.]],
751
752                      [[ 9., 19.],
753                       [10., 20.],
754                       [11., 21.],
755                       [12., 22.]],
756
757                      [[21., 31.],
758                       [22., 32.],
759                       [23., 33.],
760                       [24., 34.]],
761
762                      [[ 8., 18.],
763                       [ 9., 19.],
764                       [10., 20.],
765                       [11., 21.]],
766
767                      [[14., 24.],
768                       [15., 25.],
769                       [16., 26.],
770                       [17., 27.]],
771
772                      [[22., 32.],
773                       [23., 33.],
774                       [24., 34.],
775                       [25., 35.]],
776
777                      [[ 2., 12.],
778                       [ 3., 13.],
779                       [ 4., 14.],
780                       [ 5., 15.]],
781
782                      [[10., 20.],
783                       [11., 21.],
784                       [12., 22.],
785                       [13., 23.]],
786
787                      [[15., 25.],
788                       [16., 26.],
789                       [17., 27.],
790                       [18., 28.]],
791
792                      [[ 5., 15.],
793                       [ 6., 16.],
794                       [ 7., 17.],
795                       [ 8., 18.]],
796
797                      [[11., 21.],
798                       [12., 22.],
799                       [13., 23.],
800                       [14., 24.]],
801
802                      [[16., 26.],
803                       [17., 27.],
804                       [18., 28.],
805                       [19., 29.]],
806
807                      [[18., 28.],
808                       [19., 29.],
809                       [20., 30.],
810                       [21., 31.]],
811
812                      [[23., 33.],
813                       [24., 34.],
814                       [25., 35.],
815                       [26., 36.]],
816
817                      [[ 3., 13.],
818                       [ 4., 14.],
819                       [ 5., 15.],
820                       [ 6., 16.]],
821
822                      [[12., 22.],
823                       [13., 23.],
824                       [14., 24.],
825                       [15., 25.]],
826
827                      [[17., 27.],
828                       [18., 28.],
829                       [19., 29.],
830                       [20., 30.]],
831
832                      [[19., 29.],
833                       [20., 30.],
834                       [21., 31.],
835                       [22., 32.]],
836
837                      [[24., 34.],
838                       [25., 35.],
839                       [26., 36.],
840                       [27., 37.]]]), device='cuda:0', size=(8, 6, 4, 2),
841       nnz=24, dtype=torch.float64, layout=torch.sparse_csc)
842# _ccol_indices
843tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0', dtype=torch.int32)
844# _row_indices
845tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
846       device='cuda:0', dtype=torch.int32)
847# _values
848tensor([[[ 6., 16.],
849         [ 7., 17.],
850         [ 8., 18.],
851         [ 9., 19.]],
852
853        [[13., 23.],
854         [14., 24.],
855         [15., 25.],
856         [16., 26.]],
857
858        [[20., 30.],
859         [21., 31.],
860         [22., 32.],
861         [23., 33.]],
862
863        [[ 1., 11.],
864         [ 2., 12.],
865         [ 3., 13.],
866         [ 4., 14.]],
867
868        [[ 4., 14.],
869         [ 5., 15.],
870         [ 6., 16.],
871         [ 7., 17.]],
872
873        [[ 7., 17.],
874         [ 8., 18.],
875         [ 9., 19.],
876         [10., 20.]],
877
878        [[ 9., 19.],
879         [10., 20.],
880         [11., 21.],
881         [12., 22.]],
882
883        [[21., 31.],
884         [22., 32.],
885         [23., 33.],
886         [24., 34.]],
887
888        [[ 8., 18.],
889         [ 9., 19.],
890         [10., 20.],
891         [11., 21.]],
892
893        [[14., 24.],
894         [15., 25.],
895         [16., 26.],
896         [17., 27.]],
897
898        [[22., 32.],
899         [23., 33.],
900         [24., 34.],
901         [25., 35.]],
902
903        [[ 2., 12.],
904         [ 3., 13.],
905         [ 4., 14.],
906         [ 5., 15.]],
907
908        [[10., 20.],
909         [11., 21.],
910         [12., 22.],
911         [13., 23.]],
912
913        [[15., 25.],
914         [16., 26.],
915         [17., 27.],
916         [18., 28.]],
917
918        [[ 5., 15.],
919         [ 6., 16.],
920         [ 7., 17.],
921         [ 8., 18.]],
922
923        [[11., 21.],
924         [12., 22.],
925         [13., 23.],
926         [14., 24.]],
927
928        [[16., 26.],
929         [17., 27.],
930         [18., 28.],
931         [19., 29.]],
932
933        [[18., 28.],
934         [19., 29.],
935         [20., 30.],
936         [21., 31.]],
937
938        [[23., 33.],
939         [24., 34.],
940         [25., 35.],
941         [26., 36.]],
942
943        [[ 3., 13.],
944         [ 4., 14.],
945         [ 5., 15.],
946         [ 6., 16.]],
947
948        [[12., 22.],
949         [13., 23.],
950         [14., 24.],
951         [15., 25.]],
952
953        [[17., 27.],
954         [18., 28.],
955         [19., 29.],
956         [20., 30.]],
957
958        [[19., 29.],
959         [20., 30.],
960         [21., 31.],
961         [22., 32.]],
962
963        [[24., 34.],
964         [25., 35.],
965         [26., 36.],
966         [27., 37.]]], device='cuda:0', dtype=torch.float64)
967
968
969########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+(4,) ##########
970# sparse tensor
971tensor(ccol_indices=tensor([[[0, 2, 3, 4],
972                             [0, 2, 3, 4],
973                             [0, 2, 3, 4]],
974
975                            [[0, 1, 3, 4],
976                             [0, 2, 3, 4],
977                             [0, 1, 3, 4]]]),
978       row_indices=tensor([[[0, 1, 0, 1],
979                            [0, 1, 0, 0],
980                            [0, 1, 1, 1]],
981
982                           [[1, 0, 1, 1],
983                            [0, 1, 1, 0],
984                            [0, 0, 1, 0]]]),
985       values=tensor([[[[1., 2., 3., 4.],
986                        [3., 4., 5., 6.],
987                        [2., 3., 4., 5.],
988                        [4., 5., 6., 7.]],
989
990                       [[1., 2., 3., 4.],
991                        [4., 5., 6., 7.],
992                        [2., 3., 4., 5.],
993                        [3., 4., 5., 6.]],
994
995                       [[1., 2., 3., 4.],
996                        [2., 3., 4., 5.],
997                        [3., 4., 5., 6.],
998                        [4., 5., 6., 7.]]],
999
1000
1001                      [[[2., 3., 4., 5.],
1002                        [1., 2., 3., 4.],
1003                        [3., 4., 5., 6.],
1004                        [4., 5., 6., 7.]],
1005
1006                       [[1., 2., 3., 4.],
1007                        [3., 4., 5., 6.],
1008                        [4., 5., 6., 7.],
1009                        [2., 3., 4., 5.]],
1010
1011                       [[1., 2., 3., 4.],
1012                        [2., 3., 4., 5.],
1013                        [4., 5., 6., 7.],
1014                        [3., 4., 5., 6.]]]]), device='cuda:0',
1015       size=(2, 3, 2, 3, 4), nnz=4, layout=torch.sparse_csc)
1016# _ccol_indices
1017tensor([[[0, 2, 3, 4],
1018         [0, 2, 3, 4],
1019         [0, 2, 3, 4]],
1020
1021        [[0, 1, 3, 4],
1022         [0, 2, 3, 4],
1023         [0, 1, 3, 4]]], device='cuda:0')
1024# _row_indices
1025tensor([[[0, 1, 0, 1],
1026         [0, 1, 0, 0],
1027         [0, 1, 1, 1]],
1028
1029        [[1, 0, 1, 1],
1030         [0, 1, 1, 0],
1031         [0, 0, 1, 0]]], device='cuda:0')
1032# _values
1033tensor([[[[1., 2., 3., 4.],
1034          [3., 4., 5., 6.],
1035          [2., 3., 4., 5.],
1036          [4., 5., 6., 7.]],
1037
1038         [[1., 2., 3., 4.],
1039          [4., 5., 6., 7.],
1040          [2., 3., 4., 5.],
1041          [3., 4., 5., 6.]],
1042
1043         [[1., 2., 3., 4.],
1044          [2., 3., 4., 5.],
1045          [3., 4., 5., 6.],
1046          [4., 5., 6., 7.]]],
1047
1048
1049        [[[2., 3., 4., 5.],
1050          [1., 2., 3., 4.],
1051          [3., 4., 5., 6.],
1052          [4., 5., 6., 7.]],
1053
1054         [[1., 2., 3., 4.],
1055          [3., 4., 5., 6.],
1056          [4., 5., 6., 7.],
1057          [2., 3., 4., 5.]],
1058
1059         [[1., 2., 3., 4.],
1060          [2., 3., 4., 5.],
1061          [4., 5., 6., 7.],
1062          [3., 4., 5., 6.]]]], device='cuda:0')
1063
1064########## torch.float32/torch.int64/size=()+(8, 6)+(4, 2) ##########
1065# sparse tensor
1066tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
1067       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
1068                           7, 0, 4, 5, 6, 7]),
1069       values=tensor([[[ 6., 16.],
1070                       [ 7., 17.],
1071                       [ 8., 18.],
1072                       [ 9., 19.]],
1073
1074                      [[13., 23.],
1075                       [14., 24.],
1076                       [15., 25.],
1077                       [16., 26.]],
1078
1079                      [[20., 30.],
1080                       [21., 31.],
1081                       [22., 32.],
1082                       [23., 33.]],
1083
1084                      [[ 1., 11.],
1085                       [ 2., 12.],
1086                       [ 3., 13.],
1087                       [ 4., 14.]],
1088
1089                      [[ 4., 14.],
1090                       [ 5., 15.],
1091                       [ 6., 16.],
1092                       [ 7., 17.]],
1093
1094                      [[ 7., 17.],
1095                       [ 8., 18.],
1096                       [ 9., 19.],
1097                       [10., 20.]],
1098
1099                      [[ 9., 19.],
1100                       [10., 20.],
1101                       [11., 21.],
1102                       [12., 22.]],
1103
1104                      [[21., 31.],
1105                       [22., 32.],
1106                       [23., 33.],
1107                       [24., 34.]],
1108
1109                      [[ 8., 18.],
1110                       [ 9., 19.],
1111                       [10., 20.],
1112                       [11., 21.]],
1113
1114                      [[14., 24.],
1115                       [15., 25.],
1116                       [16., 26.],
1117                       [17., 27.]],
1118
1119                      [[22., 32.],
1120                       [23., 33.],
1121                       [24., 34.],
1122                       [25., 35.]],
1123
1124                      [[ 2., 12.],
1125                       [ 3., 13.],
1126                       [ 4., 14.],
1127                       [ 5., 15.]],
1128
1129                      [[10., 20.],
1130                       [11., 21.],
1131                       [12., 22.],
1132                       [13., 23.]],
1133
1134                      [[15., 25.],
1135                       [16., 26.],
1136                       [17., 27.],
1137                       [18., 28.]],
1138
1139                      [[ 5., 15.],
1140                       [ 6., 16.],
1141                       [ 7., 17.],
1142                       [ 8., 18.]],
1143
1144                      [[11., 21.],
1145                       [12., 22.],
1146                       [13., 23.],
1147                       [14., 24.]],
1148
1149                      [[16., 26.],
1150                       [17., 27.],
1151                       [18., 28.],
1152                       [19., 29.]],
1153
1154                      [[18., 28.],
1155                       [19., 29.],
1156                       [20., 30.],
1157                       [21., 31.]],
1158
1159                      [[23., 33.],
1160                       [24., 34.],
1161                       [25., 35.],
1162                       [26., 36.]],
1163
1164                      [[ 3., 13.],
1165                       [ 4., 14.],
1166                       [ 5., 15.],
1167                       [ 6., 16.]],
1168
1169                      [[12., 22.],
1170                       [13., 23.],
1171                       [14., 24.],
1172                       [15., 25.]],
1173
1174                      [[17., 27.],
1175                       [18., 28.],
1176                       [19., 29.],
1177                       [20., 30.]],
1178
1179                      [[19., 29.],
1180                       [20., 30.],
1181                       [21., 31.],
1182                       [22., 32.]],
1183
1184                      [[24., 34.],
1185                       [25., 35.],
1186                       [26., 36.],
1187                       [27., 37.]]]), device='cuda:0', size=(8, 6, 4, 2),
1188       nnz=24, layout=torch.sparse_csc)
1189# _ccol_indices
1190tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0')
1191# _row_indices
1192tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
1193       device='cuda:0')
1194# _values
1195tensor([[[ 6., 16.],
1196         [ 7., 17.],
1197         [ 8., 18.],
1198         [ 9., 19.]],
1199
1200        [[13., 23.],
1201         [14., 24.],
1202         [15., 25.],
1203         [16., 26.]],
1204
1205        [[20., 30.],
1206         [21., 31.],
1207         [22., 32.],
1208         [23., 33.]],
1209
1210        [[ 1., 11.],
1211         [ 2., 12.],
1212         [ 3., 13.],
1213         [ 4., 14.]],
1214
1215        [[ 4., 14.],
1216         [ 5., 15.],
1217         [ 6., 16.],
1218         [ 7., 17.]],
1219
1220        [[ 7., 17.],
1221         [ 8., 18.],
1222         [ 9., 19.],
1223         [10., 20.]],
1224
1225        [[ 9., 19.],
1226         [10., 20.],
1227         [11., 21.],
1228         [12., 22.]],
1229
1230        [[21., 31.],
1231         [22., 32.],
1232         [23., 33.],
1233         [24., 34.]],
1234
1235        [[ 8., 18.],
1236         [ 9., 19.],
1237         [10., 20.],
1238         [11., 21.]],
1239
1240        [[14., 24.],
1241         [15., 25.],
1242         [16., 26.],
1243         [17., 27.]],
1244
1245        [[22., 32.],
1246         [23., 33.],
1247         [24., 34.],
1248         [25., 35.]],
1249
1250        [[ 2., 12.],
1251         [ 3., 13.],
1252         [ 4., 14.],
1253         [ 5., 15.]],
1254
1255        [[10., 20.],
1256         [11., 21.],
1257         [12., 22.],
1258         [13., 23.]],
1259
1260        [[15., 25.],
1261         [16., 26.],
1262         [17., 27.],
1263         [18., 28.]],
1264
1265        [[ 5., 15.],
1266         [ 6., 16.],
1267         [ 7., 17.],
1268         [ 8., 18.]],
1269
1270        [[11., 21.],
1271         [12., 22.],
1272         [13., 23.],
1273         [14., 24.]],
1274
1275        [[16., 26.],
1276         [17., 27.],
1277         [18., 28.],
1278         [19., 29.]],
1279
1280        [[18., 28.],
1281         [19., 29.],
1282         [20., 30.],
1283         [21., 31.]],
1284
1285        [[23., 33.],
1286         [24., 34.],
1287         [25., 35.],
1288         [26., 36.]],
1289
1290        [[ 3., 13.],
1291         [ 4., 14.],
1292         [ 5., 15.],
1293         [ 6., 16.]],
1294
1295        [[12., 22.],
1296         [13., 23.],
1297         [14., 24.],
1298         [15., 25.]],
1299
1300        [[17., 27.],
1301         [18., 28.],
1302         [19., 29.],
1303         [20., 30.]],
1304
1305        [[19., 29.],
1306         [20., 30.],
1307         [21., 31.],
1308         [22., 32.]],
1309
1310        [[24., 34.],
1311         [25., 35.],
1312         [26., 36.],
1313         [27., 37.]]], device='cuda:0')
1314
1315
1316########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+(4,) ##########
1317# sparse tensor
1318tensor(ccol_indices=tensor([[[0, 2, 3, 4],
1319                             [0, 2, 3, 4],
1320                             [0, 2, 3, 4]],
1321
1322                            [[0, 1, 3, 4],
1323                             [0, 2, 3, 4],
1324                             [0, 1, 3, 4]]]),
1325       row_indices=tensor([[[0, 1, 0, 1],
1326                            [0, 1, 0, 0],
1327                            [0, 1, 1, 1]],
1328
1329                           [[1, 0, 1, 1],
1330                            [0, 1, 1, 0],
1331                            [0, 0, 1, 0]]]),
1332       values=tensor([[[[1., 2., 3., 4.],
1333                        [3., 4., 5., 6.],
1334                        [2., 3., 4., 5.],
1335                        [4., 5., 6., 7.]],
1336
1337                       [[1., 2., 3., 4.],
1338                        [4., 5., 6., 7.],
1339                        [2., 3., 4., 5.],
1340                        [3., 4., 5., 6.]],
1341
1342                       [[1., 2., 3., 4.],
1343                        [2., 3., 4., 5.],
1344                        [3., 4., 5., 6.],
1345                        [4., 5., 6., 7.]]],
1346
1347
1348                      [[[2., 3., 4., 5.],
1349                        [1., 2., 3., 4.],
1350                        [3., 4., 5., 6.],
1351                        [4., 5., 6., 7.]],
1352
1353                       [[1., 2., 3., 4.],
1354                        [3., 4., 5., 6.],
1355                        [4., 5., 6., 7.],
1356                        [2., 3., 4., 5.]],
1357
1358                       [[1., 2., 3., 4.],
1359                        [2., 3., 4., 5.],
1360                        [4., 5., 6., 7.],
1361                        [3., 4., 5., 6.]]]]), device='cuda:0',
1362       size=(2, 3, 2, 3, 4), nnz=4, dtype=torch.float64, layout=torch.sparse_csc)
1363# _ccol_indices
1364tensor([[[0, 2, 3, 4],
1365         [0, 2, 3, 4],
1366         [0, 2, 3, 4]],
1367
1368        [[0, 1, 3, 4],
1369         [0, 2, 3, 4],
1370         [0, 1, 3, 4]]], device='cuda:0')
1371# _row_indices
1372tensor([[[0, 1, 0, 1],
1373         [0, 1, 0, 0],
1374         [0, 1, 1, 1]],
1375
1376        [[1, 0, 1, 1],
1377         [0, 1, 1, 0],
1378         [0, 0, 1, 0]]], device='cuda:0')
1379# _values
1380tensor([[[[1., 2., 3., 4.],
1381          [3., 4., 5., 6.],
1382          [2., 3., 4., 5.],
1383          [4., 5., 6., 7.]],
1384
1385         [[1., 2., 3., 4.],
1386          [4., 5., 6., 7.],
1387          [2., 3., 4., 5.],
1388          [3., 4., 5., 6.]],
1389
1390         [[1., 2., 3., 4.],
1391          [2., 3., 4., 5.],
1392          [3., 4., 5., 6.],
1393          [4., 5., 6., 7.]]],
1394
1395
1396        [[[2., 3., 4., 5.],
1397          [1., 2., 3., 4.],
1398          [3., 4., 5., 6.],
1399          [4., 5., 6., 7.]],
1400
1401         [[1., 2., 3., 4.],
1402          [3., 4., 5., 6.],
1403          [4., 5., 6., 7.],
1404          [2., 3., 4., 5.]],
1405
1406         [[1., 2., 3., 4.],
1407          [2., 3., 4., 5.],
1408          [4., 5., 6., 7.],
1409          [3., 4., 5., 6.]]]], device='cuda:0', dtype=torch.float64)
1410
1411########## torch.float64/torch.int64/size=()+(8, 6)+(4, 2) ##########
1412# sparse tensor
1413tensor(ccol_indices=tensor([ 0,  3,  8, 11, 14, 19, 24]),
1414       row_indices=tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6,
1415                           7, 0, 4, 5, 6, 7]),
1416       values=tensor([[[ 6., 16.],
1417                       [ 7., 17.],
1418                       [ 8., 18.],
1419                       [ 9., 19.]],
1420
1421                      [[13., 23.],
1422                       [14., 24.],
1423                       [15., 25.],
1424                       [16., 26.]],
1425
1426                      [[20., 30.],
1427                       [21., 31.],
1428                       [22., 32.],
1429                       [23., 33.]],
1430
1431                      [[ 1., 11.],
1432                       [ 2., 12.],
1433                       [ 3., 13.],
1434                       [ 4., 14.]],
1435
1436                      [[ 4., 14.],
1437                       [ 5., 15.],
1438                       [ 6., 16.],
1439                       [ 7., 17.]],
1440
1441                      [[ 7., 17.],
1442                       [ 8., 18.],
1443                       [ 9., 19.],
1444                       [10., 20.]],
1445
1446                      [[ 9., 19.],
1447                       [10., 20.],
1448                       [11., 21.],
1449                       [12., 22.]],
1450
1451                      [[21., 31.],
1452                       [22., 32.],
1453                       [23., 33.],
1454                       [24., 34.]],
1455
1456                      [[ 8., 18.],
1457                       [ 9., 19.],
1458                       [10., 20.],
1459                       [11., 21.]],
1460
1461                      [[14., 24.],
1462                       [15., 25.],
1463                       [16., 26.],
1464                       [17., 27.]],
1465
1466                      [[22., 32.],
1467                       [23., 33.],
1468                       [24., 34.],
1469                       [25., 35.]],
1470
1471                      [[ 2., 12.],
1472                       [ 3., 13.],
1473                       [ 4., 14.],
1474                       [ 5., 15.]],
1475
1476                      [[10., 20.],
1477                       [11., 21.],
1478                       [12., 22.],
1479                       [13., 23.]],
1480
1481                      [[15., 25.],
1482                       [16., 26.],
1483                       [17., 27.],
1484                       [18., 28.]],
1485
1486                      [[ 5., 15.],
1487                       [ 6., 16.],
1488                       [ 7., 17.],
1489                       [ 8., 18.]],
1490
1491                      [[11., 21.],
1492                       [12., 22.],
1493                       [13., 23.],
1494                       [14., 24.]],
1495
1496                      [[16., 26.],
1497                       [17., 27.],
1498                       [18., 28.],
1499                       [19., 29.]],
1500
1501                      [[18., 28.],
1502                       [19., 29.],
1503                       [20., 30.],
1504                       [21., 31.]],
1505
1506                      [[23., 33.],
1507                       [24., 34.],
1508                       [25., 35.],
1509                       [26., 36.]],
1510
1511                      [[ 3., 13.],
1512                       [ 4., 14.],
1513                       [ 5., 15.],
1514                       [ 6., 16.]],
1515
1516                      [[12., 22.],
1517                       [13., 23.],
1518                       [14., 24.],
1519                       [15., 25.]],
1520
1521                      [[17., 27.],
1522                       [18., 28.],
1523                       [19., 29.],
1524                       [20., 30.]],
1525
1526                      [[19., 29.],
1527                       [20., 30.],
1528                       [21., 31.],
1529                       [22., 32.]],
1530
1531                      [[24., 34.],
1532                       [25., 35.],
1533                       [26., 36.],
1534                       [27., 37.]]]), device='cuda:0', size=(8, 6, 4, 2),
1535       nnz=24, dtype=torch.float64, layout=torch.sparse_csc)
1536# _ccol_indices
1537tensor([ 0,  3,  8, 11, 14, 19, 24], device='cuda:0')
1538# _row_indices
1539tensor([2, 5, 7, 0, 1, 2, 4, 7, 2, 5, 7, 0, 4, 5, 1, 4, 5, 6, 7, 0, 4, 5, 6, 7],
1540       device='cuda:0')
1541# _values
1542tensor([[[ 6., 16.],
1543         [ 7., 17.],
1544         [ 8., 18.],
1545         [ 9., 19.]],
1546
1547        [[13., 23.],
1548         [14., 24.],
1549         [15., 25.],
1550         [16., 26.]],
1551
1552        [[20., 30.],
1553         [21., 31.],
1554         [22., 32.],
1555         [23., 33.]],
1556
1557        [[ 1., 11.],
1558         [ 2., 12.],
1559         [ 3., 13.],
1560         [ 4., 14.]],
1561
1562        [[ 4., 14.],
1563         [ 5., 15.],
1564         [ 6., 16.],
1565         [ 7., 17.]],
1566
1567        [[ 7., 17.],
1568         [ 8., 18.],
1569         [ 9., 19.],
1570         [10., 20.]],
1571
1572        [[ 9., 19.],
1573         [10., 20.],
1574         [11., 21.],
1575         [12., 22.]],
1576
1577        [[21., 31.],
1578         [22., 32.],
1579         [23., 33.],
1580         [24., 34.]],
1581
1582        [[ 8., 18.],
1583         [ 9., 19.],
1584         [10., 20.],
1585         [11., 21.]],
1586
1587        [[14., 24.],
1588         [15., 25.],
1589         [16., 26.],
1590         [17., 27.]],
1591
1592        [[22., 32.],
1593         [23., 33.],
1594         [24., 34.],
1595         [25., 35.]],
1596
1597        [[ 2., 12.],
1598         [ 3., 13.],
1599         [ 4., 14.],
1600         [ 5., 15.]],
1601
1602        [[10., 20.],
1603         [11., 21.],
1604         [12., 22.],
1605         [13., 23.]],
1606
1607        [[15., 25.],
1608         [16., 26.],
1609         [17., 27.],
1610         [18., 28.]],
1611
1612        [[ 5., 15.],
1613         [ 6., 16.],
1614         [ 7., 17.],
1615         [ 8., 18.]],
1616
1617        [[11., 21.],
1618         [12., 22.],
1619         [13., 23.],
1620         [14., 24.]],
1621
1622        [[16., 26.],
1623         [17., 27.],
1624         [18., 28.],
1625         [19., 29.]],
1626
1627        [[18., 28.],
1628         [19., 29.],
1629         [20., 30.],
1630         [21., 31.]],
1631
1632        [[23., 33.],
1633         [24., 34.],
1634         [25., 35.],
1635         [26., 36.]],
1636
1637        [[ 3., 13.],
1638         [ 4., 14.],
1639         [ 5., 15.],
1640         [ 6., 16.]],
1641
1642        [[12., 22.],
1643         [13., 23.],
1644         [14., 24.],
1645         [15., 25.]],
1646
1647        [[17., 27.],
1648         [18., 28.],
1649         [19., 29.],
1650         [20., 30.]],
1651
1652        [[19., 29.],
1653         [20., 30.],
1654         [21., 31.],
1655         [22., 32.]],
1656
1657        [[24., 34.],
1658         [25., 35.],
1659         [26., 36.],
1660         [27., 37.]]], device='cuda:0', dtype=torch.float64)
1661
1662