Множественные проблемы с алгоритмом Собеля в c

Определение ваших матриц как локальных переменных с автоматическим хранением использует около 14 МБ пространства стека. Это определенно может вызвать переполнение стека на многих платформах. Рекомендуется размещать данные из кучи.

Компилятор Visual C от Microsoft настроен так, чтобы жаловаться на fscanf и fprintf и вместо этого выступает за использование fscanf_s и fprintf_s. Им удалось получить эту и другие функции, включенные в стандарт C (приложение K), но API был слегка изменен для согласованности (использование size_t вместо UINT для длин массивов), и Microsoft не изменила свою версию. Это различие было несущественным для 32-битных целей, но теперь типы size_t и unsigned различаются на большинстве 64-битных платформ.

Поэтому использование fscanf_s() не рекомендуется для портативных программ. Вы можете отключить предупреждение компилятора, добавив #define _CRT_SECURE_NO_WARNINGS перед включением <stdio.h>.

Однако обратите внимание, что вы не должны игнорировать возвращаемое значение fscanf() для обнаружения недействительных или отсутствующих данных: если преобразование завершается ошибкой, целевая переменная остается неизменной, что приводит к неверным результатам или даже к неопределенному поведению.

Вот модифицированная версия, выделяющая матрицы из кучи:

#ifdef _MSC_VER
#define _CRT_SECURE_NO_WARNINGS  // disable warnings in fscanf
#endif

#include <errno.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#define ROWS 700
#define COLS 1244

int main() {
    int (*Gradient)[COLS] = calloc(sizeof(*Gradient), ROWS);
    int (*Image_input)[COLS] = calloc(sizeof(*Image_input), ROWS);
    int (*G_x)[COLS] = calloc(sizeof(*G_x), ROWS);
    int (*G_y)[COLS] = calloc(sizeof(*G_y), ROWS);

    if (!Gradient || !Image_input || !G_x || !G_y) {
        fprintf(stderr, "cannot allocate memory\n");
        return 1;
    }

    FILE *fr = fopen("ny.txt", "r");
    if (fr == NULL) {
        fprintf(stderr, "cannot open ny.txt: %s\n", strerror(errno));
        return 1;
    }
    FILE *fw = fopen("sobel_outt.txt", "w");
    if (fw == NULL) {
        fprintf(stderr, "cannot open sobel_outt.txt: %s\n", 
                strerror(errno));
        return 1;
    }

    int x, y, row, column, num;
    int i = 0;

    int XLENGTH = ROWS;
    int YLENGTH = COLS;

    for (row = 0; row < XLENGTH; row++) {
        for (column = 0; column < YLENGTH; column++) {
            if (fscanf(fr, "%d ,", &num) != 1) {
                fprintf(stderr, "cannot read value for Image_input[%d][%d]\n",
                        row, column);
                return 1;
            }
            Image_input[row][column] = num;
        }
    }

    fclose(fr);

    for (x = 0; x < XLENGTH; x += 3) {
        i++;
        for (y = 0; y < YLENGTH; y += 3) {
            if (x == 0 || x == XLENGTH - 1 || y == 0 || y == YLENGTH - 1) {
                G_x[x][y] = G_y[x][y] = Gradient[x][y] = 0;
            } else {
                G_x[x][y] = Image_input[x + 1][y - 1]
                          + 2 * Image_input[x + 1][y]
                          + Image_input[x + 1][y + 1]
                          - Image_input[x - 1][y - 1]
                          - 2 * Image_input[x - 1][y]
                          - Image_input[x - 1][y + 1];

                G_y[x][y] = Image_input[x - 1][y + 1]
                          + 2 * Image_input[x][y + 1]
                          + Image_input[x + 1][y + 1]
                          - Image_input[x - 1][y - 1]
                          - 2 * Image_input[x][y - 1]
                          - Image_input[x + 1][y - 1];

                Gradient[x][y] = abs(G_x[x][y]) + abs(G_y[x][y]);
                if (Gradient[x][y] > 255) {
                    Gradient[x][y] = 255;
                }
            }
            fprintf(fw, "%d,\n", Gradient[x][y]);
        }
    }

    fclose(fw);

    printf("i= %d\n", i);

    free(Gradient);
    free(Image_input);
    free(G_x);
    free(G_y);

    return 0;
}

Обратите внимание, что конечное значение i всегда должно быть XLENGTH.

Вот альтернатива, использующая единую структуру для всех данных, которую легче обрабатывать, чем выделенные 2D-матрицы:

#ifdef _MSC_VER
#define _CRT_SECURE_NO_WARNINGS
#endif

#include <errno.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>

#define ROWS 700
#define COLS 1244

struct sobel {
    int Gradient[ROWS][COLS];
    int Image_input[ROWS][COLS];
    int G_x[ROWS][COLS];
    int G_y[ROWS][COLS];
};

int main() {
    struct sobel *data = (struct sobel *)calloc(sizeof(*data), 1);
    if (!data) {
        fprintf(stderr, "cannot allocate memory\n");
        return 1;
    }
    FILE *fr = fopen("ny.txt", "r");
    if (fr == NULL) {
        fprintf(stderr, "cannot open ny.txt: %s\n", strerror(errno));
        return 1;
    }
    FILE *fw = fopen("sobel_outt.txt", "w");
    if (fw == NULL) {
        fprintf(stderr, "cannot open sobel_outt.txt: %s\n", strerror(errno));
        return 1;
    }

    int x, y, row, column, num;
    int i = 0;

    int XLENGTH = ROWS;
    int YLENGTH = COLS;

    for (row = 0; row < XLENGTH; row++) {
        for (column = 0; column < YLENGTH; column++) {
            if (fscanf(fr, "%d " ",", &num) != 1) {
                fprintf(stderr, "cannot read value for Image_input[%d][%d]\n", row, column);
                return 1;
            }
            data->Image_input[row][column] = num;
        }
    }

    fclose(fr);

    for (x = 0; x < XLENGTH; x += 3) {
        i++;
        for (y = 0; y < YLENGTH; y += 3) {
            if (x == 0 || x == XLENGTH - 1 || y == 0 || y == YLENGTH - 1) {
                data->G_x[x][y] = data->G_y[x][y] = data->Gradient[x][y] = 0;
            } else {
                data->G_x[x][y] = data->Image_input[x + 1][y - 1]
                                + 2 * data->Image_input[x + 1][y]
                                + data->Image_input[x + 1][y + 1]
                                - data->Image_input[x - 1][y - 1]
                                - 2 * data->Image_input[x - 1][y]
                                - data->Image_input[x - 1][y + 1];

                data->G_y[x][y] = data->Image_input[x - 1][y + 1]
                                + 2 * data->Image_input[x][y + 1]
                                + data->Image_input[x + 1][y + 1]
                                - data->Image_input[x - 1][y - 1]
                                - 2 * data->Image_input[x][y - 1]
                                - data->Image_input[x + 1][y - 1];

                data->Gradient[x][y] = abs(data->G_x[x][y]) + abs(data->G_y[x][y]);
                if (data->Gradient[x][y] > 255) {
                    data->Gradient[x][y] = 255;
                }
            }
            fprintf(fw, "%d,\n", data->Gradient[x][y]);
        }
    }
    fclose(fw);

    printf("i= %d\n", i);

    free(data);
    return 0;
}